<!DOCTYPE html><html lang="zh-CN" data-theme="light"><head><script>(()=>{const e=navigator.serviceWorker;e?e.register("/sw.js").then((async e=>{console.log("SWPP 注册成功");try{await e.periodicSync.register("update",{minInterval:864e5})}catch(e){console.log("Periodic Sync 注册失败",e)}})).catch((e=>console.error("SWPP 注册失败",e))):console.warn("当前浏览器不支持 SW")})()</script><meta charset="UTF-8"><meta http-equiv="X-UA-Compatible" content="IE=edge"><meta name="viewport" content="width=device-width,initial-scale=1,viewport-fit=cover"><title>CNN+transformer入门学习 | LiuShen's Blog</title><meta name="author" content="LiuShen"><meta name="copyright" content="LiuShen"><meta name="format-detection" content="telephone=no"><meta name="theme-color" content="#ffffff"><meta name="robots" content="index, follow"><meta name="description" content="本文章将讲解从机器学习开始后的主要算法，以时间为线"><meta property="og:type" content="article"><meta property="og:title" content="CNN+transformer入门学习"><meta property="og:url" content="https://blog.liushen.fun/posts/2229c0f4/"><meta property="og:site_name" content="LiuShen's Blog"><meta property="og:description" content="本文章将讲解从机器学习开始后的主要算法，以时间为线"><meta property="og:locale" content="zh_CN"><meta property="og:image" content="https://pic2.zhimg.com/v2-e3b4212c09df05a0484da4eb5392a0d9_r.jpg"><meta property="article:published_time" content="2023-01-04T16:00:00.000Z"><meta property="article:modified_time" content="2023-01-05T01:00:00.000Z"><meta property="article:author" content="LiuShen"><meta property="article:tag" content="学习笔记"><meta property="article:tag" content="机器学习"><meta property="article:tag" content="神经网络"><meta property="article:tag" content="transformer"><meta name="twitter:card" content="summary"><meta name="twitter:image" content="https://pic2.zhimg.com/v2-e3b4212c09df05a0484da4eb5392a0d9_r.jpg"><link rel="shortcut icon" href="/favicon.ico"><link rel="canonical" href="https://blog.liushen.fun/posts/2229c0f4/"><link rel="preconnect" href="https://jsd.liiiu.cn"><meta name="baidu-site-verification" content="codeva-i2bF9bXDJs"><meta name="sogou_site_verification" content="1rIjtK6RhE"><meta name="360-site-verification" content="b9a9f96ae38a1932a326f8ba255cc74b"><meta name="msvalidate.01" content="F7C246820EB04DD140494C98F93A97C7"><meta name="google-site-verification" content="VH3ZE6m42MZDqpTY2tD-XoxDt9iUj2HoiC3W2neB7F4"><link rel="manifest" href="/manifest.json"><link rel="apple-touch-icon" sizes="180x180" href="/apple-touch-icon.png"><link rel="icon" type="image/png" sizes="32x32" href="/config/img/pwa/favicon-32x32.png"><link rel="icon" type="image/png" sizes="16x16" href="/config/img/pwa/favicon-16x16.png"><link rel="mask-icon" href="/config/img/pwa/favicon-mask.svg" color="#5bbad5"><link rel="stylesheet" href="/css/index.css?v=5.0.0"><link rel="stylesheet" href="/css/custom.css?v=5.0.0"><link rel="stylesheet" href="https://jsd.liiiu.cn/npm/@fortawesome/fontawesome-free@6.7.2/css/all.min.css"><link rel="stylesheet" href="https://jsd.liiiu.cn/npm/@fancyapps/ui@5.0.36/dist/fancybox/fancybox.min.css" media="print" onload='this.media="all"'><script>(()=>{const e={set:(e,t,o)=>{if(!o)return;const n=Date.now()+864e5*o;localStorage.setItem(e,JSON.stringify({value:t,expiry:n}))},get:e=>{const t=localStorage.getItem(e);if(!t)return;const{value:o,expiry:n}=JSON.parse(t);if(!(Date.now()>n))return o;localStorage.removeItem(e)}};window.btf={saveToLocal:e,getScript:(e,t={})=>new Promise(((o,n)=>{const a=document.createElement("script");a.src=e,a.async=!0,Object.entries(t).forEach((([e,t])=>a.setAttribute(e,t))),a.onload=a.onreadystatechange=()=>{a.readyState&&!/loaded|complete/.test(a.readyState)||o()},a.onerror=n,document.head.appendChild(a)})),getCSS:(e,t)=>new Promise(((o,n)=>{const a=document.createElement("link");a.rel="stylesheet",a.href=e,t&&(a.id=t),a.onload=a.onreadystatechange=()=>{a.readyState&&!/loaded|complete/.test(a.readyState)||o()},a.onerror=n,document.head.appendChild(a)})),addGlobalFn:(e,t,o=!1,n=window)=>{const a=n.globalFn||{};a[e]=a[e]||{},o&&a[e][o]||(a[e][o||Object.keys(a[e]).length]=t,n.globalFn=a)}};const t=()=>{document.documentElement.setAttribute("data-theme","dark"),null!==document.querySelector('meta[name="theme-color"]')&&document.querySelector('meta[name="theme-color"]').setAttribute("content","#0d0d0d")},o=()=>{document.documentElement.setAttribute("data-theme","light"),null!==document.querySelector('meta[name="theme-color"]')&&document.querySelector('meta[name="theme-color"]').setAttribute("content","#ffffff")};btf.activateDarkMode=t,btf.activateLightMode=o;const n=e.get("theme"),a=(new Date).getHours();void 0===n?a<=6||a>=18?t():o():"light"===n?o():t();const r=e.get("aside-status");void 0!==r&&document.documentElement.classList.toggle("hide-aside","hide"===r);/iPad|iPhone|iPod|Macintosh/.test(navigator.userAgent)&&document.documentElement.classList.add("apple")})()</script><script>const GLOBAL_CONFIG={root:"/",algolia:{appId:"7IX3UBC6JW",apiKey:"4ac2846352e499675081f1277fb961c1",indexName:"My Blog",hitsPerPage:6,languages:{input_placeholder:"搜索全站文章",hits_empty:"未找到符合您查询的内容：${query}",hits_stats:"找到 ${hits} 条结果，耗时 ${time} 毫秒"}},localSearch:void 0,translate:{defaultEncoding:2,translateDelay:0,msgToTraditionalChinese:"繁",msgToSimplifiedChinese:"簡"},noticeOutdate:{limitDay:365,position:"top",messagePrev:"本篇文章从发布到现在已经隔了",messageNext:"天了，里面的内容可能过期了，你要自己甄别一下哟👉👈"},highlight:{plugin:"highlight.js",highlightCopy:!0,highlightLang:!0,highlightHeightLimit:400,highlightFullpage:!1,highlightMacStyle:!0},copy:{success:"😋复制啦！请注意版权信息呀！",error:"😪呜呜，复制失败了！",noSupport:"🤐浏览器不支持呢，你用的啥玩意？"},relativeDate:{homepage:!1,post:!1},runtime:"天",dateSuffix:{just:"刚刚",min:"分钟前",hour:"小时前",day:"天前",month:"个月前"},copyright:{limitCount:1e3,languages:{author:"作者: LiuShen",link:"链接: ",source:"来源: LiuShen's Blog",info:"著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。"}},lightbox:"fancybox",Snackbar:{chs_to_cht:"已切换为繁体中文",cht_to_chs:"已切换为简体中文",day_to_night:"已切换为深色模式",night_to_day:"已切换为浅色模式",bgLight:"rgba(255, 255, 255, 0.509)",bgDark:"rgba(48, 48, 48, 0.509)",position:"top-right"},infinitegrid:{js:"https://jsd.liiiu.cn/npm/@egjs/infinitegrid@4.12.0/dist/infinitegrid.min.js",buttonText:"加载更多"},isPhotoFigcaption:!0,islazyload:!0,isAnchor:!1,percent:{toc:!0,rightside:!1},autoDarkmode:!1}</script><script id="config-diff">var GLOBAL_CONFIG_SITE={title:"CNN+transformer入门学习",isPost:!0,isHome:!1,isHighlightShrink:void 0,isToc:!0,postUpdate:"2023-01-05 09:00:00"}</script><link rel="stylesheet" href="https://jsd.liiiu.cn/gh/willow-god/Sharding-fonts/Yozai-Medium/result.min.css"><link rel="stylesheet" href="/config/memos/memos.css"><script defer src="/sw-dom.js"></script><link rel="stylesheet" href="https://jsd.liiiu.cn/npm/swiper@11.1.14/swiper-bundle.min.css" media="print" onload='this.media="all"'><link rel="stylesheet" href="/config/swiper/swiperstyle.css" media="print" onload='this.media="all"'><meta name="generator" content="Hexo 7.3.0"><link rel="alternate" href="/atom.xml" title="LiuShen's Blog" type="application/atom+xml"></head><body><div class="float-box right top"></div><div id="loading-box"><div class="loading-left-bg"></div><div class="loading-right-bg"></div><img class="load-image" src="" data-lazy-src="/config/img/preloader.gif" alt=""></div><script async>(()=>{const e=document.getElementById("loading-box"),d=document.body,t=()=>{d.style.overflow="",e.classList.add("loaded")},n=()=>{d.style.overflow="hidden",e.classList.remove("loaded")};n();let o=!1;window.addEventListener("load",(()=>{o||(t(),o=!0)})),setTimeout((()=>{o||(t(),o=!0)}),5e3),window.addEventListener("load",(()=>{t()})),setTimeout((function(){t()}),3e3),document.getElementById("loading-box").addEventListener("click",(()=>{t()})),document.addEventListener("pjax:send",(()=>{n()})),document.addEventListener("pjax:complete",(()=>{t()}))})()</script><div id="web_bg"></div><div id="sidebar"><div id="menu-mask"></div><div id="sidebar-menus"><div class="add-menu-container"><div id="travellings"><a class="site-page" href="https://www.travellings.cn/go.html" title="友链接力-随机开往" target="_blank" rel="noopener nofollow"><i class="fa-solid fa-bus fa-fw"></i></a></div><div id="ten-years"><a class="site-page" href="https://foreverblog.cn/go.html" title="友链接力-十年之约" target="_blank" rel="noopener nofollow"><i class="fa-brands fa-nfc-symbol fa-fw"></i></a></div></div><div class="is-center" id="sidebar-avatar"><div class="avatar-img is-center"><img class="mood-icon" src="" data-lazy-src="https://p.liiiu.cn/i/2025/03/14/67d301461a24a.webp" alt="🤤" onerror='this.onerror=null,this.src="/img/friend_404.gif"'><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/03/13/67d2fc82d329c.webp" onerror='this.onerror=null,this.src="/img/friend_404.gif"' alt="avatar"></div><div class="author-info__name">LiuShen</div></div><div class="site-data is-center"><a href="/archives/"><div class="headline">文章</div><div class="length-num">72</div></a><a href="/tags/"><div class="headline">标签</div><div class="length-num">98</div></a><a href="/categories/"><div class="headline">分类</div><div class="length-num">3</div></a></div><a class="button--animated" id="card-info-btn" target="_blank" rel="noopener" href="https://github.com/willow-god"><i class="fab fa-github"></i><span>Follow Me 🛫</span></a><div class="menus_items visible"><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fas fa-home"></i> <span>导航</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" target="_blank" rel="noopener" href="https://www.liushen.fun/"><i class="fa-fw fa-solid fa-house-flag"></i> <span>个人主页</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://xc.liushen.fun/"><i class="fa-fw fa fa-camera-retro"></i> <span>个人相册</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-graduation-cap"></i> <span>整理</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/archives/"><i class="fa-fw fas fa-archive"></i> <span>时光卷轴</span></a></li><li><a class="site-page child" href="/tags/"><i class="fa-fw fas fa-tags"></i> <span>文章标签</span></a></li><li><a class="site-page child" href="/categories/"><i class="fa-fw fas fa-folder-open"></i> <span>文章分类</span></a></li><li><a class="site-page child" href="/charts/"><i class="fa-fw fa-solid fa-chart-pie"></i> <span>文章通览</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa-solid fa-user-group"></i> <span>友人</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/link/"><i class="fa-fw fas fa-link"></i> <span>友链展示</span></a></li><li><a class="site-page child" href="/addlink/"><i class="fa-fw fa fa-at"></i> <span>友链申请</span></a></li><li><a class="site-page child" href="/fcircle/"><i class="fa-fw fa-solid fa-circle-nodes"></i> <span>朋友动态</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-paper-plane"></i> <span>留言</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/comment/"><i class="fa-fw fa-solid fa-chalkboard"></i> <span>留言白板</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://mm.liushen.fun/"><i class="fa-fw fa-solid fa-pen-nib"></i> <span>提笔摘星</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa-solid fa-stethoscope"></i> <span>分享</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" target="_blank" rel="noopener" href="https://gist.liushen.fun/"><i class="fa-fw fa-solid fa-code"></i> <span>代码片段</span></a></li><li><a class="site-page child" href="/subscribe/"><i class="fa-fw fa-solid fa-rss"></i> <span>订阅本站</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://pan.liushen.fun/"><i class="fa-fw fa-solid fa-laptop-file"></i> <span>清羽云盘</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-list"></i> <span>关于</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/about/"><i class="fa-fw fa fa-address-card"></i> <span>站长资料</span></a></li><li><a class="site-page child" href="/shuoshuo/"><i class="fa-fw fa fa-commenting"></i> <span>日常说说</span></a></li><li><a class="site-page child" href="/devices/"><i class="fa-fw fa-solid fa-tachograph-digital"></i> <span>我的设备</span></a></li></ul></div></div></div></div><div class="post" id="body-wrap"><header class="post-bg fixed" id="page-header" style="background-image:url(https://pic2.zhimg.com/v2-e3b4212c09df05a0484da4eb5392a0d9_r.jpg)"><nav id="nav"><div class="more-app-btn"><i class="fa-solid fa-fingerprint fa-fw"></i><div class="more-app-list-groups"><div class="more-app-list-groups-container"><div class="more-app-list-group"><div class="more-app-list-title">🦄常用网站</div><div class="more-app-list"><a class="more-app-list-item" href="https://www.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-house"></i><span class="more-app-item-text">个人主页</span></a><a class="more-app-list-item" href="https://blog.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-blog"></i><span class="more-app-item-text">个人博客</span></a><a class="more-app-list-item" href="https://xc.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-image"></i><span class="more-app-item-text">个人相册</span></a><a class="more-app-list-item" href="https://github.com/willow-god" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-brands fa-github"></i><span class="more-app-item-text">Github</span></a></div></div><div class="more-app-list-group"><div class="more-app-list-title">😎周边站点</div><div class="more-app-list"><a class="more-app-list-item" href="https://gist.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-code"></i><span class="more-app-item-text">代码片段</span></a><a class="more-app-list-item" href="https://mm.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-pen-nib"></i><span class="more-app-item-text">提笔摘星</span></a><a class="more-app-list-item" href="https://pan.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-cloud"></i><span class="more-app-item-text">清羽云盘</span></a><a class="more-app-list-item" href="https://um.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-people-group"></i><span class="more-app-item-text">访客统计</span></a><a class="more-app-list-item" href="https://img.liiiu.cn/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-images"></i><span class="more-app-item-text">清羽图床</span></a><a class="more-app-list-item" href="https://chat.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-robot"></i><span class="more-app-item-text">清羽AI</span></a><a class="more-app-list-item" href="https://bsz.liiiu.cn/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-chart-pie"></i><span class="more-app-item-text">不蒜计数</span></a><a class="more-app-list-item" href="https://status.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-server"></i><span class="more-app-item-text">服务检测</span></a></div></div><div class="more-app-list-group"><div class="more-app-list-title">🚁实用工具</div><div class="more-app-list"><a class="more-app-list-item" href="https://tmail.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-envelope"></i><span class="more-app-item-text">临时邮箱</span></a><a class="more-app-list-item" href="https://hot.liushen.fun/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-fire"></i><span class="more-app-item-text">每日热榜</span></a><a class="more-app-list-item" href="https://cover.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-eye"></i><span class="more-app-item-text">封面设计</span></a><a class="more-app-list-item" href="https://mini-cover.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-image"></i><span class="more-app-item-text">迷你封面</span></a><a class="more-app-list-item" href="https://icon.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-icons"></i><span class="more-app-item-text">万能图标</span></a><a class="more-app-list-item" href="https://draw.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-paintbrush"></i><span class="more-app-item-text">灵感白板</span></a><a class="more-app-list-item" href="https://mindmap.qyliu.top/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-network-wired"></i><span class="more-app-item-text">思维导图</span></a><a class="more-app-list-item" href="https://share.liushen.fun/#/" rel="nofollow noopener" target="_blank"><i class="more-app-item-icon fa-solid fa-share-nodes"></i><span class="more-app-item-text">内容中转</span></a></div></div></div></div></div><span id="blog-info"><a class="nav-site-title" href="/" title="LiuShen's Blog"><span class="site-name">LiuShen</span></a></span><div id="menus"></div><div class="menus_items visible"><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fas fa-home"></i> <span>导航</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" target="_blank" rel="noopener" href="https://www.liushen.fun/"><i class="fa-fw fa-solid fa-house-flag"></i> <span>个人主页</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://xc.liushen.fun/"><i class="fa-fw fa fa-camera-retro"></i> <span>个人相册</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-graduation-cap"></i> <span>整理</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/archives/"><i class="fa-fw fas fa-archive"></i> <span>时光卷轴</span></a></li><li><a class="site-page child" href="/tags/"><i class="fa-fw fas fa-tags"></i> <span>文章标签</span></a></li><li><a class="site-page child" href="/categories/"><i class="fa-fw fas fa-folder-open"></i> <span>文章分类</span></a></li><li><a class="site-page child" href="/charts/"><i class="fa-fw fa-solid fa-chart-pie"></i> <span>文章通览</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa-solid fa-user-group"></i> <span>友人</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/link/"><i class="fa-fw fas fa-link"></i> <span>友链展示</span></a></li><li><a class="site-page child" href="/addlink/"><i class="fa-fw fa fa-at"></i> <span>友链申请</span></a></li><li><a class="site-page child" href="/fcircle/"><i class="fa-fw fa-solid fa-circle-nodes"></i> <span>朋友动态</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-paper-plane"></i> <span>留言</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/comment/"><i class="fa-fw fa-solid fa-chalkboard"></i> <span>留言白板</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://mm.liushen.fun/"><i class="fa-fw fa-solid fa-pen-nib"></i> <span>提笔摘星</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa-solid fa-stethoscope"></i> <span>分享</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" target="_blank" rel="noopener" href="https://gist.liushen.fun/"><i class="fa-fw fa-solid fa-code"></i> <span>代码片段</span></a></li><li><a class="site-page child" href="/subscribe/"><i class="fa-fw fa-solid fa-rss"></i> <span>订阅本站</span></a></li><li><a class="site-page child" target="_blank" rel="noopener" href="https://pan.liushen.fun/"><i class="fa-fw fa-solid fa-laptop-file"></i> <span>清羽云盘</span></a></li></ul></div><div class="menus_item"><span class="site-page group hide"><i class="fa-fw fa fa-list"></i> <span>关于</span><i class="fas fa-chevron-down"></i></span><ul class="menus_item_child"><li><a class="site-page child" href="/about/"><i class="fa-fw fa fa-address-card"></i> <span>站长资料</span></a></li><li><a class="site-page child" href="/shuoshuo/"><i class="fa-fw fa fa-commenting"></i> <span>日常说说</span></a></li><li><a class="site-page child" href="/devices/"><i class="fa-fw fa-solid fa-tachograph-digital"></i> <span>我的设备</span></a></li></ul></div></div><center id="name-container"><a id="page-name" href="javascript:btf.scrollToDest(0, 500)">PAGE_NAME</a></center><div id="nav-right"><div id="travellings"><a class="site-page" href="https://www.travellings.cn/go.html" title="友链接力-随机开往" target="_blank" rel="noopener nofollow"><i class="fa-solid fa-bus fa-fw"></i></a></div><div id="ten-years"><a class="site-page" href="https://foreverblog.cn/go.html" title="友链接力-十年之约" target="_blank" rel="noopener nofollow"><i class="fa-brands fa-nfc-symbol fa-fw"></i></a></div><div id="random"><a class="site-page" href="javascript:randomPost()" title="随机前往一个文章"><i class="fa-solid fa-shuffle fa-fw"></i></a></div><div id="search-button"><span class="site-page social-icon search"><i class="fas fa-search fa-fw"></i></span></div><div id="toggle-menu"><span class="site-page" href="javascript:void(0);" title="展开菜单"><i class="fas fa-indent fa-fw"></i></span></div></div></nav><div id="post-info"><h1 class="post-title">CNN+transformer入门学习</h1><div id="post-meta"><div class="meta-firstline"><span class="post-meta-date"><i class="far fa-calendar-alt fa-fw post-meta-icon"></i><span class="post-meta-label">发表于</span><time class="post-meta-date-created" datetime="2023-01-04T16:00:00.000Z" title="发表于 2023-01-05 00:00:00">2023-01-05</time><span class="post-meta-separator">|</span><i class="fas fa-history fa-fw post-meta-icon"></i><span class="post-meta-label">更新于</span><time class="post-meta-date-updated" datetime="2023-01-05T01:00:00.000Z" title="更新于 2023-01-05 09:00:00">2023-01-05</time></span><span class="post-meta-categories"><span class="post-meta-separator">|</span><i class="fas fa-inbox fa-fw post-meta-icon"></i><a class="post-meta-categories" href="/categories/learning/">学习资料</a></span></div><div class="meta-secondline"><span class="post-meta-separator">|</span><span class="post-meta-wordcount"><i class="far fa-file-word fa-fw post-meta-icon"></i><span class="post-meta-label">总字数:</span><span class="word-count">4.9k</span><span class="post-meta-separator">|</span><i class="far fa-clock fa-fw post-meta-icon"></i><span class="post-meta-label">阅读时长:</span><span>14分钟</span></span><span class="post-meta-separator">|</span><span class="post-meta-pv-cv" data-flag-title=""><i class="far fa-eye fa-fw post-meta-icon"></i><span class="post-meta-label">浏览量:</span><span id="busuanzi_page_pv"><i class="fa-solid fa-spinner fa-spin"></i></span></span><span class="post-meta-separator">|</span><span class="post-meta-commentcount"><i class="far fa-comments fa-fw post-meta-icon"></i><span class="post-meta-label">评论数:</span><a href="/posts/2229c0f4/#post-comment"><span id="ArtalkCount"><i class="fa-solid fa-spinner fa-spin"></i></span></a></span></div></div></div><section class="main-hero-waves-area waves-area"><svg class="waves-svg" xmlns="http://www.w3.org/2000/svg" xlink="http://www.w3.org/1999/xlink" viewBox="0 24 150 28" preserveAspectRatio="none" shape-rendering="auto"><defs><path id="gentle-wave" d="M-160 44c30 0 58-18 88-18s58 18 88 18 58-18 88-18 58 18 88 18v44h-352Z"></path></defs><g class="parallax"><use href="#gentle-wave" x="48" y="0"></use><use href="#gentle-wave" x="48" y="3"></use><use href="#gentle-wave" x="48" y="5"></use><use href="#gentle-wave" x="48" y="7"></use></g></svg></section></header><main class="layout" id="content-inner"><div id="post"><article class="post-content" id="article-container"><div class="ai-summary"><div class="ai-head"><div class="ai-head-left"><div class="ai-circle ai-circle-1"></div><div class="ai-circle ai-circle-2"></div><div class="ai-circle ai-circle-3"></div></div><div class="ai-head-right"><a class="ai-about-ai" href="/posts/40702a0d/">关于AI</a></div></div><div class="ai-explanation" style="display:block" data-summary="这里是清羽AI，这篇文章介绍了卷积神经网络和Transformer在目标检测中的应用，特别是针对室内人数统计的改进方法。文章回顾了从LeNet5到YOLOv3等经典算法的发展历程，分析了各种算法的优缺点。重点讨论了YOLOv3算法的改进，包括特征提取网络的改进和特征融合网络与多尺度预测的结合。文章提出了基于全局注意力的室内人数统计模型，通过增加网络深度、加入注意力机制、修改网络的层级结构等方法，减少了统计中的误检率和漏检率。同时，文章还介绍了残差网络、注意力机制等关键技术，并详细阐述了实验设计和评价指标。这些改进方法有效提高了小目标检测的准确率和实时性，为室内人数统计提供了新的解决方案。">清羽AI正在绞尽脑汁想思路ING···</div><div class="ai-title"><div class="ai-title-left"><i class="fa-brands fa-slack"></i><div class="ai-title-text">清羽のAI摘要</div></div><div class="ai-tag" id="ai-tag">GLM-4-Flash</div></div></div><h2 id="历代算法"><a href="#历代算法" class="headerlink" title="历代算法"></a>历代算法</h2><h3 id="基于LeNet5的卷积神经网络结构"><a href="#基于LeNet5的卷积神经网络结构" class="headerlink" title="基于LeNet5的卷积神经网络结构"></a>基于LeNet5的卷积神经网络结构</h3><h4 id="1998年Yann-Le-Cun等人首先提出了基于LeNet5的卷积神经网络结构"><a href="#1998年Yann-Le-Cun等人首先提出了基于LeNet5的卷积神经网络结构" class="headerlink" title="1998年Yann Le Cun等人首先提出了基于LeNet5的卷积神经网络结构"></a>1998年Yann Le Cun等人首先提出了基于LeNet5的卷积神经网络结构</h4><h3 id="AlexNet"><a href="#AlexNet" class="headerlink" title="AlexNet"></a>AlexNet</h3><h4 id="2012-年-Krizhevsky-A-等提出了网络结构-AlexNet，速度远超传统算法"><a href="#2012-年-Krizhevsky-A-等提出了网络结构-AlexNet，速度远超传统算法" class="headerlink" title="2012 年 Krizhevsky A 等提出了网络结构 AlexNet，速度远超传统算法"></a>2012 年 Krizhevsky A 等提出了网络结构 AlexNet，速度远超传统算法</h4><h2 id="分类和回归两种算法"><a href="#分类和回归两种算法" class="headerlink" title="分类和回归两种算法"></a>分类和回归两种算法</h2><h4 id="往后，随着发展分为分类和回归两种算法"><a href="#往后，随着发展分为分类和回归两种算法" class="headerlink" title="往后，随着发展分为分类和回归两种算法"></a>往后，随着发展分为分类和回归两种算法</h4><h3 id="第一步选择候选区域-region-proposals-，并对候选区域进行分类和定位，由此输出目标检测结果"><a href="#第一步选择候选区域-region-proposals-，并对候选区域进行分类和定位，由此输出目标检测结果" class="headerlink" title="第一步选择候选区域(region proposals)，并对候选区域进行分类和定位，由此输出目标检测结果"></a>第一步选择候选区域(region proposals)，并对候选区域进行分类和定位，由此输出目标检测结果</h3><h3 id="2014-年，-Girshick-R-等人提出了-R-CNN"><a href="#2014-年，-Girshick-R-等人提出了-R-CNN" class="headerlink" title="2014 年， Girshick R 等人提出了 R-CNN"></a>2014 年， Girshick R 等人提出了 R-CNN</h3><p>先取得输入的图像，再采用选择性搜索(Selective Search)算法，自下而上提取大约2000个区域，再用大型卷积神经网络(CNN)对每个提取区域的特征进行分析，并最终采用特定的类线性SVM对各区域进行分类 。</p><p>优点：简单 、可扩展性好<br>缺点：训练网络中的正、负样本候选区域是用传统算法产生的，这就给算法的运算速度造成了一定的限制；每一次检测都要产生2000多个候选框，每一个候选框都要进行一次卷积运算 ，因此产生了大量的重复运算 ，降低了检测的效率</p><h3 id="He-K等人2014年在卷积神经网络中提出了一种金字塔池化层SPP-Net"><a href="#He-K等人2014年在卷积神经网络中提出了一种金字塔池化层SPP-Net" class="headerlink" title="He K等人2014年在卷积神经网络中提出了一种金字塔池化层SPP-Net"></a>He K等人2014年在卷积神经网络中提出了一种金字塔池化层SPP-Net</h3><p>可以处理任何候选区域 ，无论多大分辨率的图片 ，它的输出大小都是相同的 ，从而改善了图像的不变性 ，减少了过拟合。</p><p>然而，与R-CNN方法相比，由于训练的图像大小不一致，使得候选框的感兴趣区域存在较大的偏差，因此不能采用逆向传播算法进行加权更新。</p><h3 id="2015-年，-Ren-等人针对SPP-Net-存在的两大问题-，提出了基于-Fast-R-CNN-算法"><a href="#2015-年，-Ren-等人针对SPP-Net-存在的两大问题-，提出了基于-Fast-R-CNN-算法" class="headerlink" title="2015 年， Ren 等人针对SPP-Net 存在的两大问题 ，提出了基于 Fast R-CNN 算法"></a>2015 年， Ren 等人针对SPP-Net 存在的两大问题 ，提出了基于 Fast R-CNN 算法</h3><p>将图像和多个感兴趣区域 (Region of Interest ，RoI) 输入到基本卷积网络 ，各感兴趣区域集中在一个特定尺寸的特征映射上 ，再由全连接层 (FC)将其映射到特征矢量。该方法通过多任务损失对算法进行端到端的训练。</p><p>然而，FastR-CNN仍然采用选择性搜索方法来提取区域候选框，这会导致运算时间和运算速度降低。</p><h3 id="Ren-S等人在2015年提出Faster-R-CNN算法"><a href="#Ren-S等人在2015年提出Faster-R-CNN算法" class="headerlink" title="Ren S等人在2015年提出Faster R-CNN算法"></a>Ren S等人在2015年提出Faster R-CNN算法</h3><p>在这之前都是依据 Selective Search 或者 Edge Boxes 等传统方法， 这些方法是基 于低等级视觉特征 ， 无法在数据驱动形式中学习到。</p><p>先以整幅图像为输入，通过卷积运算生成特征层，再将卷积特征输入到RPN网络中，获取候选框的特征信息，再利 用分类器对候选框中的特征进行分类，最终确定其属于某个特征的候选框，再利用回归器对其进行定位微调。该网络能够将由卷积神经网络所提取的特征信息与整个网络的数据进行共享，使得该方法的运算速度和精确度得到了极大的改善，使得两阶段模型能够更好地进行深度处理。然而，当具有特定大小的卷积特征图时，RPN网络可以产生多种大小的候选框，从而导致了目标物体大小可变和固定感受野的不一致性。</p><h3 id="2016年，Redmon-J等人提出了一种新的目标检测算法YOLO"><a href="#2016年，Redmon-J等人提出了一种新的目标检测算法YOLO" class="headerlink" title="2016年，Redmon J等人提出了一种新的目标检测算法YOLO"></a>2016年，Redmon J等人提出了一种新的目标检测算法YOLO</h3><p>把目标检测的概念看成是一个空间的回归问题，单个神经网络一次操作就可以从一个完整的图像中提取出预测的边框和分类概率，从而可以最大限度地优化检测性能。基于全局信息的检测方法</p><h3 id="Redmon-J等在-2016-年引进了一种新型的YOLO9000算法"><a href="#Redmon-J等在-2016-年引进了一种新型的YOLO9000算法" class="headerlink" title="Redmon J等在 2016 年引进了一种新型的YOLO9000算法"></a>Redmon J等在 2016 年引进了一种新型的YOLO9000算法</h3><p>实时的目标检测系统，它能探测到9000多种不同类型的目标。</p><h3 id="YOLOv3"><a href="#YOLOv3" class="headerlink" title="YOLOv3"></a>YOLOv3</h3><p>对于候选框中是否含有对象进行了判断，减少了识别错误；并采用二分类器对每一个候选框进行多类别预测</p><p>加入多尺度预测，提高了对小型目标的识别</p><p>提出了一个新的基础网络darknet53</p><p>在定位精度方面存在的缺陷</p><h3 id="Liu-W-等人在-2016-年提出SSD-Single-Shot-MultiBox-Detector）算法"><a href="#Liu-W-等人在-2016-年提出SSD-Single-Shot-MultiBox-Detector）算法" class="headerlink" title="Liu W 等人在 2016 年提出SSD(Single Shot MultiBox Detector）算法"></a>Liu W 等人在 2016 年提出SSD(Single Shot MultiBox Detector）算法</h3><p>使用深度神经网络。</p><p>定位边框是一组空间上离散的默认框，并与不同的长宽比和映射位置相对应</p><p>根据每个默认框中的目标分类，自动生成相应的概率得分，并通过调节默认框来达到较好的匹配效果</p><p>根据多个特征映射对分辨率不同的目标进行全面的预测，从而完成多尺度物体的检测。</p><p>优点：简洁、有效，省去了区域提取和下采样的步骤，将所有的运算都打包在一个单一的网络中，易于学习和整合。</p><p>缺点：小目标与特征图中的小面积区域相对应，不能得到完全训练，所以SSD对小目标的识别仍然不够有效；而在无候选区域时，区域回归困难，较难收敛；SSD各层次的特征图分别作为单独的输入，使得同一对象在同一尺度上被不同尺寸的框同时检测，从而产生重复操作。</p><h2 id="小目标检测现状"><a href="#小目标检测现状" class="headerlink" title="小目标检测现状"></a>小目标检测现状</h2><p>下面是一些解决方案</p><h3 id="使用小目标数据集："><a href="#使用小目标数据集：" class="headerlink" title="使用小目标数据集："></a>使用小目标数据集：</h3><p>DOTA数据集，VEDAI数据集</p><h3 id="多尺度预测"><a href="#多尺度预测" class="headerlink" title="多尺度预测"></a>多尺度预测</h3><p>一种是采用多尺度神经网络来提取不同水平的特征，以满足各种尺寸物体的目标检测，多尺度预测采用多层次特征，对不同规模大小的特征图进行预测大小不一的目标。</p><p>特征金字塔，FPN，2017年，LinTY等基于Faster R-CNN网络提出。</p><p>FPN的自上而下和自下而上：<br>自下而上（bottom-up）的过程是指从网络底部的低级特征层向上传递信息的过程。在FPN中，通过堆叠卷积层或金字塔池化层，底层特征被逐渐提取和上采样，产生具有不同尺度和语义信息的特征图。这样做的目的是为了捕捉图像中的细节和局部特征。</p><p>自上而下（top-down）的过程是指从网络顶部的高级特征层向下传递信息的过程。在FPN中，高级特征图通过上采样或插值操作得到与底层特征图相同的分辨率，然后与底层特征图进行逐元素的融合。这种融合操作通过连接或加权求和等方式，将高级语义信息传递给底层特征图，以提供更丰富的上下文信息。</p><h3 id="GAN"><a href="#GAN" class="headerlink" title="GAN"></a>GAN</h3><h2 id="人数统计现状"><a href="#人数统计现状" class="headerlink" title="人数统计现状"></a>人数统计现状</h2><h3 id="2012-年钱鹤庆等人提出一种基于人脸检测的人数统计方法，利用-AdaBoost-算法和跳帧检测方法进行实验，最终检测效果以及统计速度都有提升；"><a href="#2012-年钱鹤庆等人提出一种基于人脸检测的人数统计方法，利用-AdaBoost-算法和跳帧检测方法进行实验，最终检测效果以及统计速度都有提升；" class="headerlink" title="2012 年钱鹤庆等人提出一种基于人脸检测的人数统计方法，利用 AdaBoost 算法和跳帧检测方法进行实验，最终检测效果以及统计速度都有提升；"></a>2012 年钱鹤庆等人提出一种基于人脸检测的人数统计方法，利用 AdaBoost 算法和跳帧检测方法进行实验，最终检测效果以及统计速度都有提升；</h3><h3 id="2019年陈久红等人通过改进R-FCN网络大大提高了R-FCN目标检测算法对小目标的识别能力，准-确率有较大的提升；"><a href="#2019年陈久红等人通过改进R-FCN网络大大提高了R-FCN目标检测算法对小目标的识别能力，准-确率有较大的提升；" class="headerlink" title="2019年陈久红等人通过改进R-FCN网络大大提高了R-FCN目标检测算法对小目标的识别能力，准 确率有较大的提升；"></a>2019年陈久红等人通过改进R-FCN网络大大提高了R-FCN目标检测算法对小目标的识别能力，准 确率有较大的提升；</h3><h3 id="鞠默然等人针对小目标检测率低、虚警率高等问题，提出了改进YOLOv3-的模型结构，结果显示改进后的模型结构对小目标的召回率和准确率都有明显提升。"><a href="#鞠默然等人针对小目标检测率低、虚警率高等问题，提出了改进YOLOv3-的模型结构，结果显示改进后的模型结构对小目标的召回率和准确率都有明显提升。" class="headerlink" title="鞠默然等人针对小目标检测率低、虚警率高等问题，提出了改进YOLOv3 的模型结构，结果显示改进后的模型结构对小目标的召回率和准确率都有明显提升。"></a>鞠默然等人针对小目标检测率低、虚警率高等问题，提出了改进YOLOv3 的模型结构，结果显示改进后的模型结构对小目标的召回率和准确率都有明显提升。</h3><h3 id="陈晓等人针对目标检测中的误检漏检问题，提出了一种基于视频的人数统计方-法，通过对特征提取、损失函数以及后处理阶段的改进，使得检测准确率以及召回率有一定提高，且处理速度较快。"><a href="#陈晓等人针对目标检测中的误检漏检问题，提出了一种基于视频的人数统计方-法，通过对特征提取、损失函数以及后处理阶段的改进，使得检测准确率以及召回率有一定提高，且处理速度较快。" class="headerlink" title="陈晓等人针对目标检测中的误检漏检问题，提出了一种基于视频的人数统计方 法，通过对特征提取、损失函数以及后处理阶段的改进，使得检测准确率以及召回率有一定提高，且处理速度较快。"></a>陈晓等人针对目标检测中的误检漏检问题，提出了一种基于视频的人数统计方 法，通过对特征提取、损失函数以及后处理阶段的改进，使得检测准确率以及召回率有一定提高，且处理速度较快。</h3><h3 id="成玉荣等人为了统计当前监控环境下的人数，引入了通道注意力机制，改进了Tiny-YOLOv3算法，训练人体头部的目标检测模型，实验的平均检测精度高达80-。"><a href="#成玉荣等人为了统计当前监控环境下的人数，引入了通道注意力机制，改进了Tiny-YOLOv3算法，训练人体头部的目标检测模型，实验的平均检测精度高达80-。" class="headerlink" title="成玉荣等人为了统计当前监控环境下的人数，引入了通道注意力机制，改进了Tiny-YOLOv3算法，训练人体头部的目标检测模型，实验的平均检测精度高达80%。"></a>成玉荣等人为了统计当前监控环境下的人数，引入了通道注意力机制，改进了Tiny-YOLOv3算法，训练人体头部的目标检测模型，实验的平均检测精度高达80%。</h3><h3 id="郑国书-58-等人基SSD模型，提出了一种基于人头检测的视频室内人数统计方法，该算法可以对小尺度人头进行检测，准确度高，实时性好，但是SSD模型中的特征提取不足，主要是利用低层次的特征来进行小目标的识别。"><a href="#郑国书-58-等人基SSD模型，提出了一种基于人头检测的视频室内人数统计方法，该算法可以对小尺度人头进行检测，准确度高，实时性好，但是SSD模型中的特征提取不足，主要是利用低层次的特征来进行小目标的识别。" class="headerlink" title="郑国书[58]等人基SSD模型，提出了一种基于人头检测的视频室内人数统计方法，该算法可以对小尺度人头进行检测，准确度高，实时性好，但是SSD模型中的特征提取不足，主要是利用低层次的特征来进行小目标的识别。"></a>郑国书[58]等人基SSD模型，提出了一种基于人头检测的视频室内人数统计方法，该算法可以对小尺度人头进行检测，准确度高，实时性好，但是SSD模型中的特征提取不足，主要是利用低层次的特征来进行小目标的识别。</h3><h2 id="此次研究主要内容"><a href="#此次研究主要内容" class="headerlink" title="此次研究主要内容"></a>此次研究主要内容</h2><p>对YOLOv3网络结构中的特征提取部分以及特征融合部分通过增加网络深度、加入注意力机制、修改网络的层级结构等方法分别进行改进，以减少统计中的误检率和漏检率。</p><h3 id="卷积神经网络"><a href="#卷积神经网络" class="headerlink" title="卷积神经网络"></a>卷积神经网络</h3><p>生物自然视觉的一种前馈神经网络，源于多层次感知器（MLP)，具有局部区域连接、权重共享、欠采样等特点，因而在图像处理方面具有较好的应用前景。独特之处在于它的权值分享和局部连接，还有那些层……</p><h3 id="残差网络"><a href="#残差网络" class="headerlink" title="残差网络"></a>残差网络</h3><p>随着网络层数增加，CNN会出现退化，浅层网络的学习效率高于深层网络，所以我们直接将千层信息传递给上层所以在深层与浅层之间添加一个信息。残差网络是由一系列残差块组成的,采用shortcut恒等连接，残差块分成两部分直接映射部分和残差部分</p><p>残差块：由两个主要部分组成：主路径（main path）和跳跃连接（skip connection）。主路径由一系列的卷积层、批量归一化层和激活函数构成，用于对输入进行特征提取和转换。跳跃连接直接将输入跳过主路径，并将其与主路径的输出相加。</p><h3 id="YOLOv3算法"><a href="#YOLOv3算法" class="headerlink" title="YOLOv3算法"></a>YOLOv3算法</h3><p>借鉴了 R-CNN 的思路，引入了 anchor box 思想，并通过聚类进行选取，添加了细粒度特征，把浅层的特征映射到深层特征，将网络修改为全卷积网络，YOLOv3 进一步加入了特征金字塔网络的思想，采用多尺度特征进行物体检测，可以提高预测准确率，特别是对较小的物体的识别，同时又能保证较快的速度。</p><p>YOLOv3网络架构：Darknet-53，53个卷积层，里面有5个残差模块，各残差模块由多个残差单元组成，每个残差单元包括两个CBL单元和一条快捷链路。<br>与多尺度结合，采用3x3和1x1卷积核抽取局部特征</p><p>yolov3损失函数：中心坐标误差、宽高坐标误差、置信度误差和分类误差</p><p>注释：<br>R-CNN：首先，在输入图像中提取候选区域，这些候选区域可能包含目标对象。通过合并具有相似颜色、纹理和空间接近的区域，生成候选目标区域。<br>然后，每个候选区域被独立地提取和处理。卷积神经网络来提取每个候选区域的特征表示。这些特征表示被送入一个分类器（通常是支持向量机，SVM）来判断每个区域内是否存在目标，并进行目标的分类。<br>最后，对于被分类为目标的候选区域，R-CNN使用回归器来精确调整其边界框，以更准确地包围目标。</p><p>anchor box思想：用于提高检测算法对于不同尺度和不同形状目标的泛化能力。</p><h3 id="注意力机制Coordinate-Attention"><a href="#注意力机制Coordinate-Attention" class="headerlink" title="注意力机制Coordinate Attention"></a>注意力机制Coordinate Attention</h3><p>CA:一种用于模型关注重要输入部分或上下文信息的计算模型。它可以在处理序列数据或图像数据时，根据不同的输入元素赋予不同的权重，以提高模型的表现能力和准确性。</p><p>普通的注意力机制算法不能很好的利用全局上下文信息，往往会无视位置信息，增加了很多运算量，而CA嵌入了位置信息，通过对空间维度进行平均池化，得到横向和纵向的两个一维向量。然后，通过拼接和1x1卷积来压缩通道，并使用批归一化层和非线性激活函数对空间信息进行编码。接下来，分别通过1x1卷积将编码后的空间信息转换为与输入特征图相同的通道数。最后，在通道上对空间信息进行加权处理。</p><p>灵活轻量级，有效利用全局上下文信息和准确的位置信息。</p><p>Global Context Network（全局上下文网络）是一种结合了Non-local和SE-Net的全局上下文建模网络，简称为GC-Net。它综合了Non-local的上下文建模能力和SE-Net低计算量的优势，能够高效地构建目标模型。</p><p>注释：Non-local模块可以理解为一个特殊的处理单元，它可以让每个像素都能够与整张图片进行交互。通过计算不同像素之间的相似度和权重，模块可以找到每个像素对于其他像素的重要程度。然后，它将所有像素的特征按照这些权重进行组合，得到最终的输出特征。可以捕捉到更广泛的上下文信息。</p><p>当我们看一张图片时，有些部分可能更重要，而其他部分可能不那么重要。SE-Net的作用就是帮助神经网络更聪明地决定哪些部分对于任务更有用。</p><p>这两种机制可以互相补充和增强。在深度神经网络中引入Non-local模块可以帮助模型理解全局上下文信息和像素之间的依赖关系，而引入SE-Net可以让模型更聪明地决定每个通道的重要程度。通过结合使用，网络可以更全面地捕捉到图像的特征和上下文信息，提高模型的性能和表达能力。</p><h2 id="基于全局注意力的室内人数统计模型"><a href="#基于全局注意力的室内人数统计模型" class="headerlink" title="基于全局注意力的室内人数统计模型"></a>基于全局注意力的室内人数统计模型</h2><h3 id="YOLOv3算法特征提取网络的改进"><a href="#YOLOv3算法特征提取网络的改进" class="headerlink" title="YOLOv3算法特征提取网络的改进"></a>YOLOv3算法特征提取网络的改进</h3><p>1.自建数据集：<br>取2000张图片打上标记<br>2.聚类候选：<br>将所有训练集样本的真实框(ground truth)都进行聚类，从而获得一个典型的有代表性形状的宽高(维度聚类)，作为锚框<br>3.CA-Resnet模块设计（A/B），替换YOLOv3原有的残差模块<br>4.CA模块改进：使用平均池化操作进行图像数据的处理，保存了更多的背景信息，</p><h3 id="实验设计"><a href="#实验设计" class="headerlink" title="实验设计"></a>实验设计</h3><p>四次对比，<br>1.A模块嵌入YOLOv3<br>B模块嵌入，//不同位置的影响<br>2.GC模块和CA1模块替换CA模块//对比不同注意力模块所带来的影响<br>3.自建数据集在传统和CA1上进行对比实验，验证改进性能<br>4.CA1，与传统，SSD，及鞠改进的YOLOv3对比试验</p><h3 id="评价指标"><a href="#评价指标" class="headerlink" title="评价指标"></a>评价指标</h3><p>准确率<br>预测为正的样本中，真实正样本比例<br>，目标召回率<br>在原始正样本中，最终被正确预测为正的概率<br>，均值平均精度<br>每个类别 AP(Average Precision)的平均值，AP 是 PR 曲线下的面积，以召回率为横坐标，准确率为纵坐标，绘制 P-R 曲线，利用积分求 mAP 的值，其中 c 表示类别数，p 表示 Precision，r 表示 Recall，p 是一个以 r 为参数的函数</p><h3 id="数据集-1000张经过标注的图像，9：1"><a href="#数据集-1000张经过标注的图像，9：1" class="headerlink" title="数据集 1000张经过标注的图像，9：1"></a>数据集 1000张经过标注的图像，9：1</h3><h3 id="环境训练参数：训练迭代次数-epoch-设置为-100；-2）每次迭代训练的-图像数目-batch-size-设置为-4；-3）将-batch-size-进行分组后送入网络的-subdivision-设置为-1；4）网络输入尺寸为-640×640-5）学习率为-0-001。"><a href="#环境训练参数：训练迭代次数-epoch-设置为-100；-2）每次迭代训练的-图像数目-batch-size-设置为-4；-3）将-batch-size-进行分组后送入网络的-subdivision-设置为-1；4）网络输入尺寸为-640×640-5）学习率为-0-001。" class="headerlink" title="环境训练参数：训练迭代次数 epoch 设置为 100； 2）每次迭代训练的 图像数目 batch_size 设置为 4； 3）将 batch_size 进行分组后送入网络的 subdivision 设置为 1；4）网络输入尺寸为 640×640; 5）学习率为 0.001。"></a>环境训练参数：训练迭代次数 epoch 设置为 100； 2）每次迭代训练的 图像数目 batch_size 设置为 4； 3）将 batch_size 进行分组后送入网络的 subdivision 设置为 1；4）网络输入尺寸为 640×640; 5）学习率为 0.001。</h3><h2 id="基于特征融合网络与多尺度预测的室内人数统计模型"><a href="#基于特征融合网络与多尺度预测的室内人数统计模型" class="headerlink" title="基于特征融合网络与多尺度预测的室内人数统计模型"></a>基于特征融合网络与多尺度预测的室内人数统计模型</h2><p>目标检测与常规的滑窗提取方法不同，基于深度学习的目标检测方法通过生成候选区域来进行特征提取，从而提高了目标检测的准确率和速率，但是收到各种因素影响，小目标检测仍然不准确，图像像素点少、图像模糊性差导致漏检误检。</p><h3 id="基于F-YOLOv3模型的人数统计方法"><a href="#基于F-YOLOv3模型的人数统计方法" class="headerlink" title="基于F-YOLOv3模型的人数统计方法"></a>基于F-YOLOv3模型的人数统计方法</h3><p>1.自建数据集，这个数据集主要特点是包含了动态信息，以MKV格式，8秒一帧输出成相应图像序列<br>2.聚类候选锚框，设置不同的锚框尺寸：(11×20)，(19×32)，(25×52)，(37×89)，(43×56)，(58×106)，(68×106)， (89×125)，(108×187)，（常规COCO集，有九个三类锚框，不适合小目标检测）<br>3.改进特征融合网络与多尺度预测的F-YOLOv3模型：首先利用低层特征，将原网络输出的8倍降采样52×52的特征图进行上采样，再将得到的结果与 Darknet-53 中第 2 个残差块输出的 4 倍降采样特征图进行拼接，得到 104×104 尺寸特征图的输出，取消了13×13尺寸特征图输出，最终输出26×26、52×52、104×104三种尺寸的特征图。然后将原网络上采样后的 26×26 尺寸特征图再进行 2 倍上采样和 4 倍上采样，得到52×52 和 104×104 的特征图与原网络的 52×52 和 104×104 的特征图进行拼接，同样将原网络上采样后的 52×52 尺寸特征图再进行 2 倍上采样，得到 104×104 的特征图与原网络的 104×104 的特征图进行拼接，这样可以从小目标中得到更细粒度的特征以及位置信息，从而增加目标识别与其位置的准确率。增强特征的充分提取，将输出层前的 5 个卷积变成了 1 个卷积和 2 个残差单元，减少人头小目标在复杂场景的漏检率，提高检测率。<br>4.ADIOU Loss：原来的smooth L1 Loss，是通过四个点回归坐标的方式，独立的求出四个点的loss，然后相加得到最终Bounding Box Loss，这种做法的假设是 4 个点是相互独立的，实际是有一定相关性的，实际评价框检测的指标是使用 IOU，这两者是不等价的，多个检测框可能有相同大小的 smooth L1 Loss ，但 IOU 可能差异很大，为了解决这个问题就引入了 IOU Loss。<br>但 IOU 只是面积比值，当两个框不存在交集时，IOU 为 0，这时网络无法判断两个框之间靠的非常近还是非常远，并且从面积比值中无法知道两框的重叠状态，因此本文中增加了一个 ADIOU Loss 分支，对于预测框的x,y,w,h进行了计算</p><p>注释：IOU:假设我们有一个预测的边界框（或分割结果）和一个真实的边界框（或分割标注），我们可以计算它们的交集面积和并集面积。然后，通过将交集面积除以并集面积，得到一个介于0到1之间的值，就是IOU。</p></article><div class="post-copyright"><div class="post-copyright__title"><span class="post-copyright-info"><h>CNN+transformer入门学习</h></span></div><div class="post-copyright__type"><span class="post-copyright-info"><a href="https://blog.liushen.fun/posts/2229c0f4/">https://blog.liushen.fun/posts/2229c0f4/</a></span></div><div class="post-copyright-m"><div class="post-copyright-m-info" style="position:relative;z-index:3"><div class="post-copyright-a" style="display:inline-block;width:fit-content;margin:20px 20px 20px 0"><h>作者</h><div class="post-copyright-cc-info"><h>LiuShen</h></div></div><div class="post-copyright-c" style="display:inline-block;width:fit-content;margin:20px 20px 20px 0"><h>发布于</h><div class="post-copyright-cc-info"><h>2023-01-05</h></div></div><div class="post-copyright-u" style="display:inline-block;width:fit-content;margin:20px 20px 20px 0"><h>更新于</h><div class="post-copyright-cc-info"><h>2023-01-05</h></div></div><div class="post-copyright-c" style="display:inline-block;width:fit-content;margin:20px 20px 20px 0"><h>许可协议</h><div class="post-copyright-cc-info"><a rel="noopener" target="_blank" title=" CC BY 4.0" href="https://creativecommons.org/licenses/by-nc-sa/4.0/?ref=chooser-v1">CC BY-NC-SA 4.0</a></div></div></div></div></div><div class="tag_share"><div class="post-meta__tag-list"><a class="post-meta__tags" href="/tags/%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/">学习笔记</a><a class="post-meta__tags" href="/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">机器学习</a><a class="post-meta__tags" href="/tags/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/">神经网络</a><a class="post-meta__tags" href="/tags/transformer/">transformer</a></div><div class="post-share"><div class="social-share" data-image="https://pic2.zhimg.com/v2-e3b4212c09df05a0484da4eb5392a0d9_r.jpg" data-sites="facebook,twitter,wechat,weibo,qq"></div><link rel="stylesheet" href="https://jsd.liiiu.cn/npm/butterfly-extsrc@1.1.4/sharejs/dist/css/share.min.css" media="print" onload='this.media="all"'><script src="https://jsd.liiiu.cn/npm/butterfly-extsrc@1.1.4/sharejs/dist/js/social-share.min.js" defer></script></div></div><div class="post-reward"><div class="reward-button"><i class="fas fa-qrcode"></i>来😍鼠标过来一点~</div><div class="reward-main"><ul class="reward-all"><li class="reward-item"><a href="/config/img/wechat.png" target="_blank"><img class="post-qr-code-img" src="" data-lazy-src="/config/img/wechat.png" alt="微信"></a><div class="post-qr-code-desc">微信</div></li><li class="reward-item"><a href="/config/img/wechat.png" target="_blank"><img class="post-qr-code-img" src="" data-lazy-src="/config/img/wechat.png" alt="支付宝"></a><div class="post-qr-code-desc">支付宝</div></li></ul></div></div><nav class="pagination-post" id="pagination"><a class="prev-post pull-left" href="/posts/e3e324a8/" title="全国数模大赛历年题目及论文"><img class="cover" src="" data-lazy-src="https://pic2.zhimg.com/v2-0a64956c5158f4817b53d45ee1fabb85_1440w.jpg" onerror='onerror=null,src="/img/404.jpg"' alt="cover of previous post"><div class="pagination-info"><div class="label">上一篇</div><div class="prev_info">全国数模大赛历年题目及论文</div></div></a><a class="next-post pull-right" href="/posts/e76b6794/" title="MFC实现快乐连连看"><img class="cover" src="" data-lazy-src="https://i.pinimg.com/736x/39/27/db/3927db7fb00bf7600a6f2bd1df4fc3a7.jpg" onerror='onerror=null,src="/img/404.jpg"' alt="cover of next post"><div class="pagination-info"><div class="label">下一篇</div><div class="next_info">MFC实现快乐连连看</div></div></a></nav><div class="relatedPosts"><div class="headline"><i class="fas fa-thumbs-up fa-fw"></i><span>相关推荐</span></div><div class="relatedPosts-list"><a href="/posts/57a50b33/" title="DCAMNet钢铁缺陷检测网络复现"><img class="cover" src="" data-lazy-src="https://p.liiiu.cn/i/2024/03/22/65fc5eceae5bd.png" alt="cover"><div class="content is-center"><div class="date"><i class="far fa-calendar-alt fa-fw"></i> 2024-02-01</div><div class="title">DCAMNet钢铁缺陷检测网络复现</div></div></a><a href="/posts/4bb33804/" title="PaddleYOLO训练自己的数据集"><img class="cover" src="" data-lazy-src="https://p.liiiu.cn/i/2025/04/08/67f49876a62e5.webp" alt="cover"><div class="content is-center"><div class="date"><i class="far fa-calendar-alt fa-fw"></i> 2025-04-08</div><div class="title">PaddleYOLO训练自己的数据集</div></div></a><a href="/posts/67189760/" title="Spikformer脉冲神经网络学习"><img class="cover" src="" data-lazy-src="https://p.liiiu.cn/i/2024/07/06/6688d4b63b50f.webp" alt="cover"><div class="content is-center"><div class="date"><i class="far fa-calendar-alt fa-fw"></i> 2024-07-06</div><div class="title">Spikformer脉冲神经网络学习</div></div></a></div></div><hr class="custom-hr"><div id="post-comment"><div class="comment-head"><div class="comment-headline"><i class="fas fa-comments fa-fw"></i> <span>评论</span></div></div><div class="comment-wrap"><div><div id="artalk-wrap"></div></div></div></div></div><div class="aside-content" id="aside-content"><div class="card-widget card-info is-center"><div class="author-info-detail"><p class="author-info-hello">👋 欢迎光临！</p><p class="author-info-desc">你们好呀！我是站长LiuShen！一个快乐，积极，热爱生活的孩纸！😜😜😜</p></div><div class="avatar-img"><img class="mood-icon" src="" data-lazy-src="https://p.liiiu.cn/i/2025/03/14/67d301461a24a.webp" alt="🤤" onerror='this.onerror=null,this.src="/img/friend_404.gif"'><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/03/13/67d2fc82d329c.webp" onerror='this.onerror=null,this.src="/img/friend_404.gif"' alt="avatar"></div><div class="author-info-name">LiuShen</div><div class="site-data"><a href="/archives/"><div class="headline">文章</div><div class="length-num">72</div></a><a href="/tags/"><div class="headline">标签</div><div class="length-num">98</div></a><a href="/categories/"><div class="headline">分类</div><div class="length-num">3</div></a></div><a id="card-info-btn" target="_blank" rel="noopener" href="https://github.com/willow-god"><i class="fab fa-github"></i><span>Follow Me 🛫</span></a><div class="card-info-social-icons"><a class="social-icon" href="mailto:01@liushen.fun" target="_blank" title="Email"><i class="fa-solid fa-envelope"></i></a><a class="social-icon" href="http://wpa.qq.com/msgrd?v=3&amp;uin=3162475700&amp;site=qq&amp;menu=yes" target="_blank" title="QQ：3162475700"><i class="fa-brands fa-qq"></i></a><a class="social-icon" href="https://wakatime.com/@LiuShen" target="_blank" title="Wakatime"><i class="fa-solid fa-chart-column"></i></a><a class="social-icon" href="https://blog.liushen.fun/atom.xml" target="_blank" title="rss地址"><i class="fa-solid fa-rss"></i></a></div></div><div class="card-widget" id="card-poem"><div id="poem_sentence"></div><div id="poem_info"><div id="poem_dynasty"></div><div id="poem_author"></div></div></div><script src="/js/jinrishici.js" charset="utf-8"></script><script>jinrishici.load((function(e){var n=document.querySelector("#poem_sentence"),t=document.querySelector("#poem_author"),o=document.querySelector("#poem_dynasty"),r=e.data.content;r=r.substr(0,r.length-1),n.innerHTML=r,o.innerHTML=e.data.origin.dynasty,t.innerHTML=e.data.origin.author+"《"+e.data.origin.title+"》"}))</script><div class="card-widget card-announcement"><div class="item-headline"><i class="fas fa-bullhorn fa-shake"></i><span>公告</span></div><div class="announcement_content"><p><strong>博客架构概览：</strong><br>⚙️框架核心：Hexo<br>🕹️界面设计：Butterfly<br>🔮安全保障：长亭雷池<br>🔩管理工具：宝塔面板，1Panel<br>🎰服务器支持：阿里云，腾讯云<br>🎲CDN加速：多吉云，CloudFlare<br><strong>快捷跳转地址：</strong><br>🧩个人相册：<a target="_blank" rel="noopener" href="https://xc.liushen.fun">xc.liushen.fun</a><br>🤖个人导航：<a target="_blank" rel="noopener" href="https://www.liushen.fun">www.liushen.fun</a><br></p><img src="" data-lazy-src="/config/img/notice.gif" alt="可爱捏" title="可爱捏" style="width:100%;border-radius:10px"></div></div><div class="sticky_layout"><div class="card-widget" id="card-toc"><div class="item-headline"><i class="fas fa-stream"></i><span>目录</span><span class="toc-percentage"></span></div><div class="toc-content"><ol class="toc"><li class="toc-item toc-level-2"><a class="toc-link" href="#%E5%8E%86%E4%BB%A3%E7%AE%97%E6%B3%95"><span class="toc-text">历代算法</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#%E5%9F%BA%E4%BA%8ELeNet5%E7%9A%84%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E7%BB%93%E6%9E%84"><span class="toc-text">基于LeNet5的卷积神经网络结构</span></a><ol class="toc-child"><li class="toc-item toc-level-4"><a class="toc-link" href="#1998%E5%B9%B4Yann-Le-Cun%E7%AD%89%E4%BA%BA%E9%A6%96%E5%85%88%E6%8F%90%E5%87%BA%E4%BA%86%E5%9F%BA%E4%BA%8ELeNet5%E7%9A%84%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E7%BB%93%E6%9E%84"><span class="toc-text">1998年Yann Le Cun等人首先提出了基于LeNet5的卷积神经网络结构</span></a></li></ol></li><li class="toc-item toc-level-3"><a class="toc-link" href="#AlexNet"><span class="toc-text">AlexNet</span></a><ol class="toc-child"><li class="toc-item toc-level-4"><a class="toc-link" href="#2012-%E5%B9%B4-Krizhevsky-A-%E7%AD%89%E6%8F%90%E5%87%BA%E4%BA%86%E7%BD%91%E7%BB%9C%E7%BB%93%E6%9E%84-AlexNet%EF%BC%8C%E9%80%9F%E5%BA%A6%E8%BF%9C%E8%B6%85%E4%BC%A0%E7%BB%9F%E7%AE%97%E6%B3%95"><span class="toc-text">2012 年 Krizhevsky A 等提出了网络结构 AlexNet，速度远超传统算法</span></a></li></ol></li></ol></li><li class="toc-item toc-level-2"><a class="toc-link" href="#%E5%88%86%E7%B1%BB%E5%92%8C%E5%9B%9E%E5%BD%92%E4%B8%A4%E7%A7%8D%E7%AE%97%E6%B3%95"><span class="toc-text">分类和回归两种算法</span></a><ol class="toc-child"><li class="toc-item toc-level-4"><a class="toc-link" href="#%E5%BE%80%E5%90%8E%EF%BC%8C%E9%9A%8F%E7%9D%80%E5%8F%91%E5%B1%95%E5%88%86%E4%B8%BA%E5%88%86%E7%B1%BB%E5%92%8C%E5%9B%9E%E5%BD%92%E4%B8%A4%E7%A7%8D%E7%AE%97%E6%B3%95"><span class="toc-text">往后，随着发展分为分类和回归两种算法</span></a></li></ol></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E7%AC%AC%E4%B8%80%E6%AD%A5%E9%80%89%E6%8B%A9%E5%80%99%E9%80%89%E5%8C%BA%E5%9F%9F-region-proposals-%EF%BC%8C%E5%B9%B6%E5%AF%B9%E5%80%99%E9%80%89%E5%8C%BA%E5%9F%9F%E8%BF%9B%E8%A1%8C%E5%88%86%E7%B1%BB%E5%92%8C%E5%AE%9A%E4%BD%8D%EF%BC%8C%E7%94%B1%E6%AD%A4%E8%BE%93%E5%87%BA%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E7%BB%93%E6%9E%9C"><span class="toc-text">第一步选择候选区域(region proposals)，并对候选区域进行分类和定位，由此输出目标检测结果</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#2014-%E5%B9%B4%EF%BC%8C-Girshick-R-%E7%AD%89%E4%BA%BA%E6%8F%90%E5%87%BA%E4%BA%86-R-CNN"><span class="toc-text">2014 年， Girshick R 等人提出了 R-CNN</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#He-K%E7%AD%89%E4%BA%BA2014%E5%B9%B4%E5%9C%A8%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E4%B8%AD%E6%8F%90%E5%87%BA%E4%BA%86%E4%B8%80%E7%A7%8D%E9%87%91%E5%AD%97%E5%A1%94%E6%B1%A0%E5%8C%96%E5%B1%82SPP-Net"><span class="toc-text">He K等人2014年在卷积神经网络中提出了一种金字塔池化层SPP-Net</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#2015-%E5%B9%B4%EF%BC%8C-Ren-%E7%AD%89%E4%BA%BA%E9%92%88%E5%AF%B9SPP-Net-%E5%AD%98%E5%9C%A8%E7%9A%84%E4%B8%A4%E5%A4%A7%E9%97%AE%E9%A2%98-%EF%BC%8C%E6%8F%90%E5%87%BA%E4%BA%86%E5%9F%BA%E4%BA%8E-Fast-R-CNN-%E7%AE%97%E6%B3%95"><span class="toc-text">2015 年， Ren 等人针对SPP-Net 存在的两大问题 ，提出了基于 Fast R-CNN 算法</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#Ren-S%E7%AD%89%E4%BA%BA%E5%9C%A82015%E5%B9%B4%E6%8F%90%E5%87%BAFaster-R-CNN%E7%AE%97%E6%B3%95"><span class="toc-text">Ren S等人在2015年提出Faster R-CNN算法</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#2016%E5%B9%B4%EF%BC%8CRedmon-J%E7%AD%89%E4%BA%BA%E6%8F%90%E5%87%BA%E4%BA%86%E4%B8%80%E7%A7%8D%E6%96%B0%E7%9A%84%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E7%AE%97%E6%B3%95YOLO"><span class="toc-text">2016年，Redmon J等人提出了一种新的目标检测算法YOLO</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#Redmon-J%E7%AD%89%E5%9C%A8-2016-%E5%B9%B4%E5%BC%95%E8%BF%9B%E4%BA%86%E4%B8%80%E7%A7%8D%E6%96%B0%E5%9E%8B%E7%9A%84YOLO9000%E7%AE%97%E6%B3%95"><span class="toc-text">Redmon J等在 2016 年引进了一种新型的YOLO9000算法</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#YOLOv3"><span class="toc-text">YOLOv3</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#Liu-W-%E7%AD%89%E4%BA%BA%E5%9C%A8-2016-%E5%B9%B4%E6%8F%90%E5%87%BASSD-Single-Shot-MultiBox-Detector%EF%BC%89%E7%AE%97%E6%B3%95"><span class="toc-text">Liu W 等人在 2016 年提出SSD(Single Shot MultiBox Detector）算法</span></a></li></ol><li class="toc-item toc-level-2"><a class="toc-link" href="#%E5%B0%8F%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E7%8E%B0%E7%8A%B6"><span class="toc-text">小目标检测现状</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#%E4%BD%BF%E7%94%A8%E5%B0%8F%E7%9B%AE%E6%A0%87%E6%95%B0%E6%8D%AE%E9%9B%86%EF%BC%9A"><span class="toc-text">使用小目标数据集：</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E5%A4%9A%E5%B0%BA%E5%BA%A6%E9%A2%84%E6%B5%8B"><span class="toc-text">多尺度预测</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#GAN"><span class="toc-text">GAN</span></a></li></ol></li><li class="toc-item toc-level-2"><a class="toc-link" href="#%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E7%8E%B0%E7%8A%B6"><span class="toc-text">人数统计现状</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#2012-%E5%B9%B4%E9%92%B1%E9%B9%A4%E5%BA%86%E7%AD%89%E4%BA%BA%E6%8F%90%E5%87%BA%E4%B8%80%E7%A7%8D%E5%9F%BA%E4%BA%8E%E4%BA%BA%E8%84%B8%E6%A3%80%E6%B5%8B%E7%9A%84%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%96%B9%E6%B3%95%EF%BC%8C%E5%88%A9%E7%94%A8-AdaBoost-%E7%AE%97%E6%B3%95%E5%92%8C%E8%B7%B3%E5%B8%A7%E6%A3%80%E6%B5%8B%E6%96%B9%E6%B3%95%E8%BF%9B%E8%A1%8C%E5%AE%9E%E9%AA%8C%EF%BC%8C%E6%9C%80%E7%BB%88%E6%A3%80%E6%B5%8B%E6%95%88%E6%9E%9C%E4%BB%A5%E5%8F%8A%E7%BB%9F%E8%AE%A1%E9%80%9F%E5%BA%A6%E9%83%BD%E6%9C%89%E6%8F%90%E5%8D%87%EF%BC%9B"><span class="toc-text">2012 年钱鹤庆等人提出一种基于人脸检测的人数统计方法，利用 AdaBoost 算法和跳帧检测方法进行实验，最终检测效果以及统计速度都有提升；</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#2019%E5%B9%B4%E9%99%88%E4%B9%85%E7%BA%A2%E7%AD%89%E4%BA%BA%E9%80%9A%E8%BF%87%E6%94%B9%E8%BF%9BR-FCN%E7%BD%91%E7%BB%9C%E5%A4%A7%E5%A4%A7%E6%8F%90%E9%AB%98%E4%BA%86R-FCN%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E7%AE%97%E6%B3%95%E5%AF%B9%E5%B0%8F%E7%9B%AE%E6%A0%87%E7%9A%84%E8%AF%86%E5%88%AB%E8%83%BD%E5%8A%9B%EF%BC%8C%E5%87%86-%E7%A1%AE%E7%8E%87%E6%9C%89%E8%BE%83%E5%A4%A7%E7%9A%84%E6%8F%90%E5%8D%87%EF%BC%9B"><span class="toc-text">2019年陈久红等人通过改进R-FCN网络大大提高了R-FCN目标检测算法对小目标的识别能力，准 确率有较大的提升；</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E9%9E%A0%E9%BB%98%E7%84%B6%E7%AD%89%E4%BA%BA%E9%92%88%E5%AF%B9%E5%B0%8F%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E7%8E%87%E4%BD%8E%E3%80%81%E8%99%9A%E8%AD%A6%E7%8E%87%E9%AB%98%E7%AD%89%E9%97%AE%E9%A2%98%EF%BC%8C%E6%8F%90%E5%87%BA%E4%BA%86%E6%94%B9%E8%BF%9BYOLOv3-%E7%9A%84%E6%A8%A1%E5%9E%8B%E7%BB%93%E6%9E%84%EF%BC%8C%E7%BB%93%E6%9E%9C%E6%98%BE%E7%A4%BA%E6%94%B9%E8%BF%9B%E5%90%8E%E7%9A%84%E6%A8%A1%E5%9E%8B%E7%BB%93%E6%9E%84%E5%AF%B9%E5%B0%8F%E7%9B%AE%E6%A0%87%E7%9A%84%E5%8F%AC%E5%9B%9E%E7%8E%87%E5%92%8C%E5%87%86%E7%A1%AE%E7%8E%87%E9%83%BD%E6%9C%89%E6%98%8E%E6%98%BE%E6%8F%90%E5%8D%87%E3%80%82"><span class="toc-text">鞠默然等人针对小目标检测率低、虚警率高等问题，提出了改进YOLOv3 的模型结构，结果显示改进后的模型结构对小目标的召回率和准确率都有明显提升。</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E9%99%88%E6%99%93%E7%AD%89%E4%BA%BA%E9%92%88%E5%AF%B9%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E4%B8%AD%E7%9A%84%E8%AF%AF%E6%A3%80%E6%BC%8F%E6%A3%80%E9%97%AE%E9%A2%98%EF%BC%8C%E6%8F%90%E5%87%BA%E4%BA%86%E4%B8%80%E7%A7%8D%E5%9F%BA%E4%BA%8E%E8%A7%86%E9%A2%91%E7%9A%84%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%96%B9-%E6%B3%95%EF%BC%8C%E9%80%9A%E8%BF%87%E5%AF%B9%E7%89%B9%E5%BE%81%E6%8F%90%E5%8F%96%E3%80%81%E6%8D%9F%E5%A4%B1%E5%87%BD%E6%95%B0%E4%BB%A5%E5%8F%8A%E5%90%8E%E5%A4%84%E7%90%86%E9%98%B6%E6%AE%B5%E7%9A%84%E6%94%B9%E8%BF%9B%EF%BC%8C%E4%BD%BF%E5%BE%97%E6%A3%80%E6%B5%8B%E5%87%86%E7%A1%AE%E7%8E%87%E4%BB%A5%E5%8F%8A%E5%8F%AC%E5%9B%9E%E7%8E%87%E6%9C%89%E4%B8%80%E5%AE%9A%E6%8F%90%E9%AB%98%EF%BC%8C%E4%B8%94%E5%A4%84%E7%90%86%E9%80%9F%E5%BA%A6%E8%BE%83%E5%BF%AB%E3%80%82"><span class="toc-text">陈晓等人针对目标检测中的误检漏检问题，提出了一种基于视频的人数统计方 法，通过对特征提取、损失函数以及后处理阶段的改进，使得检测准确率以及召回率有一定提高，且处理速度较快。</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E6%88%90%E7%8E%89%E8%8D%A3%E7%AD%89%E4%BA%BA%E4%B8%BA%E4%BA%86%E7%BB%9F%E8%AE%A1%E5%BD%93%E5%89%8D%E7%9B%91%E6%8E%A7%E7%8E%AF%E5%A2%83%E4%B8%8B%E7%9A%84%E4%BA%BA%E6%95%B0%EF%BC%8C%E5%BC%95%E5%85%A5%E4%BA%86%E9%80%9A%E9%81%93%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6%EF%BC%8C%E6%94%B9%E8%BF%9B%E4%BA%86Tiny-YOLOv3%E7%AE%97%E6%B3%95%EF%BC%8C%E8%AE%AD%E7%BB%83%E4%BA%BA%E4%BD%93%E5%A4%B4%E9%83%A8%E7%9A%84%E7%9B%AE%E6%A0%87%E6%A3%80%E6%B5%8B%E6%A8%A1%E5%9E%8B%EF%BC%8C%E5%AE%9E%E9%AA%8C%E7%9A%84%E5%B9%B3%E5%9D%87%E6%A3%80%E6%B5%8B%E7%B2%BE%E5%BA%A6%E9%AB%98%E8%BE%BE80-%E3%80%82"><span class="toc-text">成玉荣等人为了统计当前监控环境下的人数，引入了通道注意力机制，改进了Tiny-YOLOv3算法，训练人体头部的目标检测模型，实验的平均检测精度高达80%。</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E9%83%91%E5%9B%BD%E4%B9%A6-58-%E7%AD%89%E4%BA%BA%E5%9F%BASSD%E6%A8%A1%E5%9E%8B%EF%BC%8C%E6%8F%90%E5%87%BA%E4%BA%86%E4%B8%80%E7%A7%8D%E5%9F%BA%E4%BA%8E%E4%BA%BA%E5%A4%B4%E6%A3%80%E6%B5%8B%E7%9A%84%E8%A7%86%E9%A2%91%E5%AE%A4%E5%86%85%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%96%B9%E6%B3%95%EF%BC%8C%E8%AF%A5%E7%AE%97%E6%B3%95%E5%8F%AF%E4%BB%A5%E5%AF%B9%E5%B0%8F%E5%B0%BA%E5%BA%A6%E4%BA%BA%E5%A4%B4%E8%BF%9B%E8%A1%8C%E6%A3%80%E6%B5%8B%EF%BC%8C%E5%87%86%E7%A1%AE%E5%BA%A6%E9%AB%98%EF%BC%8C%E5%AE%9E%E6%97%B6%E6%80%A7%E5%A5%BD%EF%BC%8C%E4%BD%86%E6%98%AFSSD%E6%A8%A1%E5%9E%8B%E4%B8%AD%E7%9A%84%E7%89%B9%E5%BE%81%E6%8F%90%E5%8F%96%E4%B8%8D%E8%B6%B3%EF%BC%8C%E4%B8%BB%E8%A6%81%E6%98%AF%E5%88%A9%E7%94%A8%E4%BD%8E%E5%B1%82%E6%AC%A1%E7%9A%84%E7%89%B9%E5%BE%81%E6%9D%A5%E8%BF%9B%E8%A1%8C%E5%B0%8F%E7%9B%AE%E6%A0%87%E7%9A%84%E8%AF%86%E5%88%AB%E3%80%82"><span class="toc-text">郑国书[58]等人基SSD模型，提出了一种基于人头检测的视频室内人数统计方法，该算法可以对小尺度人头进行检测，准确度高，实时性好，但是SSD模型中的特征提取不足，主要是利用低层次的特征来进行小目标的识别。</span></a></li></ol></li><li class="toc-item toc-level-2"><a class="toc-link" href="#%E6%AD%A4%E6%AC%A1%E7%A0%94%E7%A9%B6%E4%B8%BB%E8%A6%81%E5%86%85%E5%AE%B9"><span class="toc-text">此次研究主要内容</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C"><span class="toc-text">卷积神经网络</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E6%AE%8B%E5%B7%AE%E7%BD%91%E7%BB%9C"><span class="toc-text">残差网络</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#YOLOv3%E7%AE%97%E6%B3%95"><span class="toc-text">YOLOv3算法</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6Coordinate-Attention"><span class="toc-text">注意力机制Coordinate Attention</span></a></li></ol></li><li class="toc-item toc-level-2"><a class="toc-link" href="#%E5%9F%BA%E4%BA%8E%E5%85%A8%E5%B1%80%E6%B3%A8%E6%84%8F%E5%8A%9B%E7%9A%84%E5%AE%A4%E5%86%85%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%A8%A1%E5%9E%8B"><span class="toc-text">基于全局注意力的室内人数统计模型</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#YOLOv3%E7%AE%97%E6%B3%95%E7%89%B9%E5%BE%81%E6%8F%90%E5%8F%96%E7%BD%91%E7%BB%9C%E7%9A%84%E6%94%B9%E8%BF%9B"><span class="toc-text">YOLOv3算法特征提取网络的改进</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E5%AE%9E%E9%AA%8C%E8%AE%BE%E8%AE%A1"><span class="toc-text">实验设计</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E8%AF%84%E4%BB%B7%E6%8C%87%E6%A0%87"><span class="toc-text">评价指标</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E6%95%B0%E6%8D%AE%E9%9B%86-1000%E5%BC%A0%E7%BB%8F%E8%BF%87%E6%A0%87%E6%B3%A8%E7%9A%84%E5%9B%BE%E5%83%8F%EF%BC%8C9%EF%BC%9A1"><span class="toc-text">数据集 1000张经过标注的图像，9：1</span></a></li><li class="toc-item toc-level-3"><a class="toc-link" href="#%E7%8E%AF%E5%A2%83%E8%AE%AD%E7%BB%83%E5%8F%82%E6%95%B0%EF%BC%9A%E8%AE%AD%E7%BB%83%E8%BF%AD%E4%BB%A3%E6%AC%A1%E6%95%B0-epoch-%E8%AE%BE%E7%BD%AE%E4%B8%BA-100%EF%BC%9B-2%EF%BC%89%E6%AF%8F%E6%AC%A1%E8%BF%AD%E4%BB%A3%E8%AE%AD%E7%BB%83%E7%9A%84-%E5%9B%BE%E5%83%8F%E6%95%B0%E7%9B%AE-batch-size-%E8%AE%BE%E7%BD%AE%E4%B8%BA-4%EF%BC%9B-3%EF%BC%89%E5%B0%86-batch-size-%E8%BF%9B%E8%A1%8C%E5%88%86%E7%BB%84%E5%90%8E%E9%80%81%E5%85%A5%E7%BD%91%E7%BB%9C%E7%9A%84-subdivision-%E8%AE%BE%E7%BD%AE%E4%B8%BA-1%EF%BC%9B4%EF%BC%89%E7%BD%91%E7%BB%9C%E8%BE%93%E5%85%A5%E5%B0%BA%E5%AF%B8%E4%B8%BA-640%C3%97640-5%EF%BC%89%E5%AD%A6%E4%B9%A0%E7%8E%87%E4%B8%BA-0-001%E3%80%82"><span class="toc-text">环境训练参数：训练迭代次数 epoch 设置为 100； 2）每次迭代训练的 图像数目 batch_size 设置为 4； 3）将 batch_size 进行分组后送入网络的 subdivision 设置为 1；4）网络输入尺寸为 640×640; 5）学习率为 0.001。</span></a></li></ol></li><li class="toc-item toc-level-2"><a class="toc-link" href="#%E5%9F%BA%E4%BA%8E%E7%89%B9%E5%BE%81%E8%9E%8D%E5%90%88%E7%BD%91%E7%BB%9C%E4%B8%8E%E5%A4%9A%E5%B0%BA%E5%BA%A6%E9%A2%84%E6%B5%8B%E7%9A%84%E5%AE%A4%E5%86%85%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%A8%A1%E5%9E%8B"><span class="toc-text">基于特征融合网络与多尺度预测的室内人数统计模型</span></a><ol class="toc-child"><li class="toc-item toc-level-3"><a class="toc-link" href="#%E5%9F%BA%E4%BA%8EF-YOLOv3%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%BA%BA%E6%95%B0%E7%BB%9F%E8%AE%A1%E6%96%B9%E6%B3%95"><span class="toc-text">基于F-YOLOv3模型的人数统计方法</span></a></li></ol></li></div></div><div class="card-widget card-recent-post"><div class="item-headline"><i class="fas fa-history"></i><span>最新文章</span></div><div class="aside-list"><div class="aside-list-item"><a class="thumbnail" href="/posts/7915ee6b/" title="数据库可视化WEB工具对比"><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/05/25/6832cc105bc41.webp" onerror='this.onerror=null,this.src="/img/404.jpg"' alt="数据库可视化WEB工具对比"></a><div class="content"><a class="title" href="/posts/7915ee6b/" title="数据库可视化WEB工具对比">数据库可视化WEB工具对比</a><time datetime="2025-05-25T10:01:21.000Z" title="更新于 2025-05-25 18:01:21">2025-05-25</time></div></div><div class="aside-list-item"><a class="thumbnail" href="/posts/40702a0d/" title="本地实现HEXO文章AI摘要"><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/05/06/6819cd4532457.webp" onerror='this.onerror=null,this.src="/img/404.jpg"' alt="本地实现HEXO文章AI摘要"></a><div class="content"><a class="title" href="/posts/40702a0d/" title="本地实现HEXO文章AI摘要">本地实现HEXO文章AI摘要</a><time datetime="2025-05-06T16:01:21.000Z" title="更新于 2025-05-07 00:01:21">2025-05-07</time></div></div><div class="aside-list-item"><a class="thumbnail" href="/posts/5f71a4b1/" title="耗子面板和DPanel简单体验"><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/04/27/680dc7916ef34.webp" onerror='this.onerror=null,this.src="/img/404.jpg"' alt="耗子面板和DPanel简单体验"></a><div class="content"><a class="title" href="/posts/5f71a4b1/" title="耗子面板和DPanel简单体验">耗子面板和DPanel简单体验</a><time datetime="2025-04-28T14:48:21.000Z" title="更新于 2025-04-28 22:48:21">2025-04-28</time></div></div><div class="aside-list-item"><a class="thumbnail" href="/posts/caee2d9f/" title="美化你的RSS订阅地址"><img src="" data-lazy-src="https://p.liiiu.cn/i/2025/04/18/68024a618942b.webp" onerror='this.onerror=null,this.src="/img/404.jpg"' alt="美化你的RSS订阅地址"></a><div class="content"><a class="title" href="/posts/caee2d9f/" title="美化你的RSS订阅地址">美化你的RSS订阅地址</a><time datetime="2025-04-18T12:48:21.000Z" title="更新于 2025-04-18 20:48:21">2025-04-18</time></div></div></div></div></div></div></main><footer id="footer"><div id="footer-wrap" style="background:0 0"><div id="footer_icons"><div><a class="icon_link" rel="noopener external nofollow" href="https://www.liushen.fun/" title="导航站点" target="_blank"><i class="fa-solid fa-compass"></i></a><a class="icon_link" rel="noopener external nofollow" href="https://admin.qidian.qq.com/static_proxy/b2b-qq/wpa-link/index.html#/person?uin=3162475700" title="联系QQ" target="_blank"><i class="fa-brands fa-qq"></i></a><a class="icon_link" rel="noopener external nofollow" href="https://github.com/willow-god" title="我的github主页" target="_blank"><i class="fa-brands fa-github"></i></a><a class="icon_link" rel="noopener external nofollow" href="mailto:01@liushen.fun" title="发送邮件至博主邮箱" target="_blank"><i class="fa-solid fa-envelope"></i></a></div><div class="footer_logo_container" onclick="btf.scrollToDest(0,500)" title="返回顶部"><img class="footer_logo" src="" data-lazy-src="/img/footer.gif"></div><div><a class="icon_link" rel="noopener external nofollow" href="https://wakatime.com/@LiuShen" title="Wikitime" target="_blank"><i class="fa-solid fa-clock"></i></a><a class="icon_link" rel="noopener external nofollow" href="https://gitlab.com/" title="gitlab" target="_blank"><i class="fa-brands fa-gitlab"></i></a><a class="icon_link" href="/shuoshuo/" title="日常说说" data-pjax-state="data-pjax-state"><i class="fa-solid fa-file-pen"></i></a><a class="icon_link" href="/comment/" title="留言板" data-pjax-state="data-pjax-state"><i class="fa-solid fa-comment"></i></a></div></div><div id="footer_content"><div class="footer-group"><h3 class="footer-title">关于本站</h3><div class="footer-links"><a class="footer-item" target="_blank" href="https://www.liushen.fun/">导航站点</a><a class="footer-item" href="/shuoshuo/">日常说说</a><a class="footer-item" target="_blank" href="https://um.liushen.fun/share/bIEnQp0xnMxD8c9V/blog.liushen.fun">访客信息</a><a class="footer-item" target="_blank" href="https://mm.liushen.fun/">提笔摘星</a><a class="footer-item" target="_blank" href="https://status.liushen.fun/">在线状态</a><a class="footer-item" href="/subscribe/">订阅本站</a></div></div><div class="footer-group"><h3 class="footer-title">加入组织</h3><div class="footer-links"><a class="footer-item" target="_blank" href="https://www.boyouquan.com/home">博友圈</a><a class="footer-item" target="_blank" href="https://github.com/timqian/chinese-independent-blogs">中博列表</a><a class="footer-item" target="_blank" href="https://blogwe.com/">博客我们</a><a class="footer-item" target="_blank" href="https://storeweb.cn/">个性商店</a><a class="footer-item" target="_blank" href="https://bf.zzxworld.com/">发现博客</a><a class="footer-item" target="_blank" href="https://ourblo.gs/">OurBlogs</a></div></div><div class="footer-group"><h3 class="footer-title">文章整理</h3><div class="footer-links"><a class="footer-item" href="/categories/website/">博客管理</a><a class="footer-item" href="/categories/learning/">学习资料</a><a class="footer-item" href="/categories/daily-share/">日常分享</a><a class="footer-item" href="/archives/">时光卷轴</a><a class="footer-item" href="/charts/">文章通览</a><a class="footer-item" href="/categories/">查看全部</a></div></div><div class="footer-group"><h3 class="footer-title">文章标签</h3><div class="footer-links"><a class="footer-item" href="/tags/JavaScript/">JS知识</a><a class="footer-item" href="/tags/Hexo/">本站框架</a><a class="footer-item" href="/tags/机器学习/">机器学习</a><a class="footer-item" href="/tags/日记/">个人日记</a><a class="footer-item" href="/tags/CSS/">CSS知识</a><a class="footer-item" href="/tags/">查看全部</a></div></div><div class="footer-group"><h3 class="footer-title">自建工具</h3><div class="footer-links"><a class="footer-item" target="_blank" rel="noopener" href="https://chat.liushen.fun/">清羽AI</a><a class="footer-item" target="_blank" rel="noopener" href="https://hot.liushen.fun/">今日热榜</a><a class="footer-item" target="_blank" rel="noopener" href="https://cover.qyliu.top/">封面设计</a><a class="footer-item" target="_blank" rel="noopener" href="https://icon.qyliu.top/">万变图标</a><a class="footer-item" target="_blank" rel="noopener" href="https://tmail.qyliu.top/">临时邮箱</a><a class="footer-item" target="_blank" rel="noopener" href="https://share.liushen.fun/">内容中转</a></div></div><div class="footer-group" id="friend-links-in-footer"><h3 class="footer-title">友链<button title="换一批" href="javascript:;" onclick="liushen.randomLink()"><i class="fa-solid fa-rotate-right"></i></button></h3><div class="footer-links"><a class="footer-item" target="_blank" href="https://blog.liushen.fun">测试1</a><a class="footer-item" target="_blank" href="https://blog.liushen.fun">测试2</a><a class="footer-item" target="_blank" href="https://blog.liushen.fun">测试3</a><a class="footer-item" target="_blank" href="https://blog.liushen.fun">测试4</a><a class="footer-item" target="_blank" href="https://blog.liushen.fun">测试5</a><a class="footer-item" href="/link/" data-pjax-state="data-pjax-state">查看更多</a></div></div></div><div id="footer-bottom"><div class="footer-bottom-content"><div class="footer-bottom-left"><span class="copyright">©2021 - 2025 By <a target="_blank" rel="noopener" href="https://blog.liushen.fun/about/" title="点击访问&quot;LiuShen&quot;的主页" style="margin-left:5px">LiuShen</a></span><div><a class="footer-bottom-link" target="_blank" href="https://beian.miit.gov.cn/" rel="noopener external nofollow" title="工信部备案号">陕ICP备2024028531号-2</a><a class="footer-bottom-link" target="_blank" href="https://beian.mps.gov.cn/#/query/webSearch?code=61011602000637" rel="noopener external nofollow" title="公安备案号">陕公网安备61011602000637号</a></div></div><div class="footer-bottom-right"><div id="runtime" title="本站运行时间">本站已苟活：0 天 0 时 0 分 0 秒</div><div><a class="footer-bottom-link" target="_blank" href="https://www.dogecloud.com/?iuid=9173" rel="noopener external nofollow" title="本站通过多吉云CDN提供站点加速">多吉云CDN</a><a class="footer-bottom-link" target="_blank" href="https://hexo.io/zh-cn/" rel="noopener external nofollow" title="本站使用Hexo架构搭建而成">Hexo静态框架</a><a class="footer-bottom-link" target="_blank" href="https://butterfly.js.org/" rel="noopener external nofollow" title="本站主题由Butterfly主题魔改而成">LiuShen主题</a></div></div></div></div></div><script>window.liushen||(window.liushen={saveData:(e,n)=>{localStorage.setItem(e,JSON.stringify({time:Date.now(),data:n}))},loadData:(e,n)=>{let t=JSON.parse(localStorage.getItem(e));if(t){let e=Date.now()-t.time;if(e>=0&&e<6e4*n)return t.data}return null},runtime:()=>{const e=e=>e>9?e:"0"+e,n=new Date("2021/12/12 01:27:36").getTime(),t=Date.now();let i=Math.round((t-n)/1e3),o="本站已苟活：";i>=86400&&(o+=`${e(Math.floor(i/86400))} 天 `,i%=86400),i>=3600&&(o+=`${e(Math.floor(i/3600))} 时 `,i%=3600),i>=60&&(o+=`${e(Math.floor(i/60))} 分 `,i%=60),o+=`${e(i)} 秒`;const l=document.getElementById("runtime");l&&(l.innerHTML=o),setTimeout(window.liushen.runtime,1e3)},randomLink:()=>{let e=window.liushen.loadData("links",30);if(e){let n=document.querySelectorAll("#friend-links-in-footer .footer-item");if(!n.length)return;for(let t=0;t<n.length;t++){let i=Math.floor(Math.random()*e.length);n[t].innerText=e[i].name,n[t].href=e[i].link,e.splice(i,1)}}else fetch("/flink_count.json").then((e=>e.json())).then((e=>{window.liushen.saveData("links",e.link_list),window.liushen.randomLink()}))}}),window.liushen.randomLink(),document.addEventListener("DOMContentLoaded",window.liushen.randomLink),window.liushen.runtime()</script></footer></div><div id="rightside"><div id="rightside-config-hide"><button id="translateLink" type="button" title="简繁转换" style="width:35px">繁</button><button id="readmode" type="button" title="阅读模式"><i class="fas fa-book-open"></i><span class="rightside-text">阅读模式</span></button><button id="darkmode" type="button" title="日间和夜间模式切换"><i class="fa-regular fa-star-half-stroke"></i><span class="rightside-text">亮暗切换</span></button><button id="cat" onclick="toggleLive2dVisibility()" title="小猫显隐"><i class="fa-solid fa-cat"></i><span class="rightside-text">小猫显隐</span></button><button id="hide-aside-btn" type="button" title="单栏和双栏切换"><i class="fa-solid fa-arrows-left-right-to-line"></i><span class="rightside-text">侧栏显隐</span></button></div><div id="rightside-config-show"><button id="rightside-config" type="button" title="设置"><i class="fas fa-cog fa-spin"></i><span class="rightside-text">更多设置</span></button><button class="close" id="mobile-toc-button" type="button" title="目录"><i class="fas fa-list-ul"></i><span class="rightside-text">显示目录</span></button><button id="fullscreen" onclick="toggleFullScreen()" title="全屏切换"><i class="fa-solid fa-expand"></i><span class="rightside-text">全屏切换</span></button><a id="to_comment" href="#post-comment" title="前往评论"><i class="fas fa-comments"></i><span class="rightside-text">快速评论</span></a><button id="go-up" type="button" title="回到顶部"><span class="scroll-percent"></span><i class="fas fa-arrow-up"></i><span class="rightside-text">回到顶部</span></button></div></div><div id="rightMenu"><div class="rightMenu-group rightMenu-small"><div class="rightMenu-item" id="menu-backward"><i class="fa-solid fa-arrow-left"></i></div><div class="rightMenu-item" id="menu-forward"><i class="fa-solid fa-arrow-right"></i></div><div class="rightMenu-item" id="menu-refresh"><i class="fa-solid fa-arrow-rotate-right"></i></div><div class="rightMenu-item" id="menu-home"><i class="fa-solid fa-house"></i></div></div><div class="rightMenu-group rightMenu-line hide" id="menu-text"><a class="rightMenu-item" id="copy" href="javascript:rm.copySelect();"><i class="fa-solid fa-copy"></i><span>复制选中文字</span></a><a class="rightMenu-item" id="reply" href="javascript:rm.replySelect();"><i class="fa-regular fa-comment"></i><span>评论选中段落</span></a></div><div class="rightMenu-group rightMenu-line rightMenuOther"><a class="rightMenu-item menu-link" href="/archives/"><i class="fa-solid fa-archive"></i><span>文章时间线</span></a><a class="rightMenu-item menu-link" href="/categories/"><i class="fa-solid fa-folder-open"></i><span>文章分大类</span></a><a class="rightMenu-item menu-link" href="/tags/"><i class="fa-solid fa-tags"></i><span>文章小标签</span></a></div><div class="rightMenu-group rightMenu-line rightMenuNormal"><a class="rightMenu-item menu-link" id="menu-radompage" href="/comment/"><i class="fa-solid fa-shoe-prints"></i><span>随心留言板</span></a><div class="rightMenu-item" id="menu-translate"><i class="fa-solid fa-earth-asia"></i><span>繁简模式切换</span></div><div class="rightMenu-item" id="menu-live2dvisibility"><i class="fa-solid fa-cat"></i><span>小猫显示隐藏</span></div><div class="rightMenu-item" id="menu-print"><i class="fa-solid fa-print fa-fw"></i><span>打印整个页面</span></div><a class="rightMenu-item menu-link" id="statement" href="/statement/"><i class="fa-regular fa-copyright fa-fw"></i><span>网站声明</span></a></div></div><div id="rightmenu-mask"></div><div><script src="/js/others.js?v=5.0.0"></script><script src="/js/utils.js?v=5.0.0"></script><script src="/js/main.js?v=5.0.0"></script><script src="https://jsd.liiiu.cn/npm/echarts@5.5.1/dist/echarts.simple.min.js"></script><script src="/js/rightmenu.js?v=5.0.0"></script><script src="/js/jinrishici.js"></script><script src="/js/tw_cn.js?v=5.0.0"></script><script src="https://jsd.liiiu.cn/npm/@fancyapps/ui@5.0.36/dist/fancybox/fancybox.umd.min.js"></script><script src="https://jsd.liiiu.cn/npm/instant.page@5.2.0/instantpage.min.js" type="module"></script><script src="https://jsd.liiiu.cn/npm/vanilla-lazyload@19.1.3/dist/lazyload.iife.min.js"></script><div class="js-pjax"><script>(()=>{let t=null;const e=null,o="shuoshuo"===GLOBAL_CONFIG_SITE.pageType,a=()=>{t&&(t.destroy(),t=null)},n=e=>t&&t.setDarkMode("dark"===e),l=(l=document,i=location.pathname)=>{t=Artalk.init({el:l.querySelector("#artalk-wrap"),server:"https://atk.liushen.fun",site:"清羽飞扬",darkMode:"dark"===document.documentElement.getAttribute("data-theme"),...e,pageKey:i,imgUploader:function(t){let e="Bearer 28|q18njD3pLtHiFy9WidqQrREwqZzb8Zionr8WzilI",o="https://www.baiwulin.work/api/v1/upload",a=new Headers;a.set("Accept","application/json"),a.set("Authorization",e);let n=new FormData;n.append("file",t);const l=(t,e,o)=>fetch(t,{method:"POST",body:e,headers:o}).then((t=>t.json())).then((t=>t.data.links.url)).catch((t=>(console.error("Image upload failed:",t),null)));return l(o,n,a).then((t=>t||(console.warn("雾林图床接口失败，尝试替换为秋叶图床"),e="Bearer 11|lsReISlSS0dyhDzt35ovtfYefGbWSRW2vvntPXs7",o="https://imgse.koxiuqiu.cc/api/v1/upload",a.set("Authorization",e),l(o,n,a))))}}),"null"!==GLOBAL_CONFIG.lightbox&&(t.on("list-loaded",(()=>{t.ctx.get("list").getCommentNodes().forEach((t=>{const e=t.getRender().$content;btf.loadLightbox(e.querySelectorAll("img:not([atk-emoticon])"))}))})),o&&(window.shuoshuoComment.destroyArtalk=()=>{a(),l.children.length&&(l.innerHTML="",l.classList.add("no-comment"))}),btf.addGlobalFn("pjaxSendOnce",a,"destroyArtalk"),btf.addGlobalFn("themeChange",n,"artalk"))},i=async(t,e)=>{"object"==typeof Artalk||(await btf.getCSS("https://jsd.liiiu.cn/npm/artalk@2.9.1/dist/Artalk.min.css"),await btf.getScript("https://jsd.liiiu.cn/npm/artalk@2.9.1/dist/Artalk.min.js")),l(t,e)};o?window.shuoshuoComment={loadComment:i}:setTimeout(i,0)})()</script></div><script>window.newestComments={changeContent:e=>(""===e||(e=(e=(e=(e=(e=e.replace(/<img.*?src="(.*?)"?[^\>]+>/gi,"[图片]")).replace(/<a[^>]+?href=["']?([^"']+)["']?[^>]*>([^<]+)<\/a>/gi,"[链接]")).replace(/<pre><code>.*?<\/pre>/gi,"[代码]")).replace(/<code>.*?<\/code>/gi,"[代码]")).replace(/<[^>]+>/g,"")).length>150&&(e=e.substring(0,150)+"..."),e),generateHtml:(e,t)=>{let n="";if(e.length)for(let t=0;t<e.length;t++){if(n+='<div class="aside-list-item">',e[t].avatar){const a="data-lazy-src";n+=`<a href="${e[t].url}" class="thumbnail"><img ${a}="${e[t].avatar}" alt="${e[t].nick}"></a>`}n+=`<div class="content">\n        <a class="comment" href="${e[t].url}" title="${e[t].content}">${e[t].content}</a>\n        <div class="name"><span>${e[t].nick} / </span><time datetime="${e[t].date}">${btf.diffDate(e[t].date,!0)}</time></div>\n        </div></div>`}else n+="暂无评论";t.innerHTML=n,window.lazyLoadInstance&&window.lazyLoadInstance.update(),window.pjax&&window.pjax.refresh(t)},newestCommentInit:(e,t)=>{const n=document.querySelector("#card-newest-comments .aside-list");if(n){const a=btf.saveToLocal.get(e);a?newestComments.generateHtml(JSON.parse(a),n):t(n)}},run:(e,t)=>{newestComments.newestCommentInit(e,t),btf.addGlobalFn("pjaxComplete",(()=>newestComments.newestCommentInit(e,t)),e)}}</script><script>window.addEventListener("load",(()=>{const t="artalk-newest-comments",{changeContent:a,generateHtml:e,run:n}=window.newestComments,r=new URLSearchParams({site_name:"清羽飞扬",limit:"5"});n(t,(async n=>{try{const s=await fetch(`https://atk.liushen.fun/api/v2/stats/latest_comments?${r}`),o=await s.json(),{avatarCdn:c,avatarDefault:i}=await(async()=>{const t=t=>t.startsWith("d=")?t:`d=${t}`;try{const a=await fetch("https://atk.liushen.fun/api/v2/conf"),e=await a.json(),{mirror:n,params:r,default:s}=e.frontend_conf.gravatar;return{avatarCdn:n,avatarDefault:t(r||s)}}catch(a){return console.error(a),{avatarCdn:"",avatarDefault:t("")}}})(),l=o.data.map((t=>({avatar:c&&t.email_encrypted?`${c}${t.email_encrypted}?${i}`:"",content:a(t.content_marked),nick:t.nick,url:t.page_url,date:t.date})));btf.saveToLocal.set(t,JSON.stringify(l),10/1440),e(l,n)}catch(t){console.log(t),n.textContent="无法获取评论，请确认相关配置是否正确"}}))}))</script><script src="/config/memos/memos.js"></script><script id="canvas_nest" defer color="128,128,128" opacity="0.7" zindex="-1" count="99" mobile="false" src="https://jsd.liiiu.cn/npm/butterfly-extsrc@1.1.4/dist/canvas-nest.min.js"></script><link rel="stylesheet" href="https://jsd.liiiu.cn/npm/aplayer@1.10.1/dist/APlayer.min.css" media="print" onload='this.media="all"'><script src="https://jsd.liiiu.cn/npm/aplayer@1.10.1/dist/APlayer.min.js"></script><script src="https://jsd.liiiu.cn/npm/meting@2.0.1/dist/Meting.min.js"></script><script src="https://jsd.liiiu.cn/npm/pjax@0.2.8/pjax.min.js"></script><script>(()=>{window.pjax=new Pjax({elements:'a:not([target="_blank"])',selectors:["head > title","#config-diff","#body-wrap","#rightside-config-hide","#rightside-config-show",".js-pjax"],cacheBust:!1,analytics:!1,scrollRestoration:!1});const e=e=>{e&&Object.values(e).forEach((e=>e()))};document.addEventListener("pjax:send",(()=>{btf.removeGlobalFnEvent("pjaxSendOnce"),btf.removeGlobalFnEvent("themeChange");const t=document.body.classList;t.contains("read-mode")&&t.remove("read-mode"),e(window.globalFn.pjaxSend)})),document.addEventListener("pjax:complete",(()=>{btf.removeGlobalFnEvent("pjaxCompleteOnce"),document.querySelectorAll("script[data-pjax]").forEach((e=>{const t=document.createElement("script"),n=e.text||e.textContent||e.innerHTML||"";Array.from(e.attributes).forEach((e=>t.setAttribute(e.name,e.value))),t.appendChild(document.createTextNode(n)),e.parentNode.replaceChild(t,e)})),e(window.globalFn.pjaxComplete)})),document.addEventListener("pjax:error",(e=>{404===e.request.status&&pjax.loadUrl("/404")}))})()</script><script async data-pjax="" src="/config/busuanzi/busuanzi.js"></script><div id="algolia-search"><div class="search-dialog"><nav class="search-nav"><span class="search-dialog-title">搜索</span><button class="search-close-button"><i class="fas fa-times"></i></button></nav><div class="search-wrap"><div id="algolia-search-input"></div><hr><div id="algolia-search-results"><div id="algolia-hits"></div><div id="algolia-pagination"></div><div id="algolia-info"><div class="algolia-stats"></div><div class="algolia-poweredBy"></div></div></div></div></div><div id="search-mask"></div><script src="https://jsd.liiiu.cn/npm/algoliasearch@5.8.1/dist/lite/builds/browser.umd.min.js"></script><script src="https://jsd.liiiu.cn/npm/instantsearch.js@4.75.0/dist/instantsearch.production.min.js"></script><script src="/js/search/algolia.js?v=5.0.0"></script></div></div><div class="needEndHide" id="nav-music"><div id="nav-music-hoverTips" onclick="liuMusic.musicToggle()">音乐已暂停</div><meting-js id="13597135963" server="netease" type="playlist" mutex="true" preload="none" data-lrctype="0" order="random" volume="0.8" api="https://met.liiiu.cn/meting/api?server=:server&amp;type=:type&amp;id=:id&amp;r=:r"></meting-js></div><script data-pjax="">function butterfly_swiper_injector_config(){var a=document.getElementById("recent-posts");console.log("已挂载butterfly_swiper"),a.insertAdjacentHTML("afterbegin",'<div class="recent-post-item" style="height: auto;width: 100%"><div class="blog-slider swiper-container-fade swiper-container-horizontal" id="swiper_container"><div class="blog-slider__wrp swiper-wrapper" style="transition-duration: 0ms;"><div class="blog-slider__item swiper-slide" style="width: 750px; opacity: 1; transform: translate3d(0px, 0px, 0px); transition-duration: 0ms;"><a class="blog-slider__img" onclick="pjax.loadUrl(&quot;posts/4bb33804/&quot;);" href="javascript:void(0);" alt=""><img width="48" height="48" src= "" data-lazy-src="https://p.liiiu.cn/i/2025/04/08/67f49876a62e5.webp" alt="" onerror="this.src=/img/error-page.png; this.onerror = null;"/></a><div class="blog-slider__content"><span class="blog-slider__code">2025-04-08</span><a class="blog-slider__title" onclick="pjax.loadUrl(&quot;posts/4bb33804/&quot;);" href="javascript:void(0);" alt="">PaddleYOLO训练自己的数据集</a><div class="blog-slider__text">近期一直在研究毕业设计，在其中，我涉及到了PaddleYOLO的训练和部署，在网上的教程较少，经过不断努力，我也算是跑出来了，所以在这里分享出来做个记录，防止下次使用又忘记了怎么搞。</div><a class="blog-slider__button" onclick="pjax.loadUrl(&quot;posts/4bb33804/&quot;);" href="javascript:void(0);" alt="">详情       </a></div></div><div class="blog-slider__item swiper-slide" style="width: 750px; opacity: 1; transform: translate3d(0px, 0px, 0px); transition-duration: 0ms;"><a class="blog-slider__img" onclick="pjax.loadUrl(&quot;posts/5f71a4b1/&quot;);" href="javascript:void(0);" alt=""><img width="48" height="48" src= "" data-lazy-src="https://p.liiiu.cn/i/2025/04/27/680dc7916ef34.webp" alt="" onerror="this.src=/img/error-page.png; this.onerror = null;"/></a><div class="blog-slider__content"><span class="blog-slider__code">2025-04-28</span><a class="blog-slider__title" onclick="pjax.loadUrl(&quot;posts/5f71a4b1/&quot;);" href="javascript:void(0);" alt="">耗子面板和DPanel简单体验</a><div class="blog-slider__text">最近毕业设计临近尾声，代码也敲完了，目前就剩稍微的调优，就可以开始写论文啦！在闲暇时间，我也尝试部署了一些不一样的面板程序，总感觉1panel稍微有些复杂，很多功能并用不上，比如GPU，下面简单分享一下我的体验。</div><a class="blog-slider__button" onclick="pjax.loadUrl(&quot;posts/5f71a4b1/&quot;);" href="javascript:void(0);" alt="">详情       </a></div></div><div class="blog-slider__item swiper-slide" style="width: 750px; opacity: 1; transform: translate3d(0px, 0px, 0px); transition-duration: 0ms;"><a class="blog-slider__img" onclick="pjax.loadUrl(&quot;posts/40702a0d/&quot;);" href="javascript:void(0);" alt=""><img width="48" height="48" src= "" data-lazy-src="https://p.liiiu.cn/i/2025/05/06/6819cd4532457.webp" alt="" onerror="this.src=/img/error-page.png; this.onerror = null;"/></a><div class="blog-slider__content"><span class="blog-slider__code">2025-05-07</span><a class="blog-slider__title" onclick="pjax.loadUrl(&quot;posts/40702a0d/&quot;);" href="javascript:void(0);" alt="">本地实现HEXO文章AI摘要</a><div class="blog-slider__text">五一假期结束啦！这五天啥也没干，就在宿舍敲代码，都快无聊死了，恰逢找到了一些免费API，就自己实现一个AI摘要吧！利用API生成摘要文本放在文章头部，再通过hexo进行渲染就好啦！</div><a class="blog-slider__button" onclick="pjax.loadUrl(&quot;posts/40702a0d/&quot;);" href="javascript:void(0);" alt="">详情       </a></div></div><div class="blog-slider__item swiper-slide" style="width: 750px; opacity: 1; transform: translate3d(0px, 0px, 0px); transition-duration: 0ms;"><a class="blog-slider__img" onclick="pjax.loadUrl(&quot;posts/7915ee6b/&quot;);" href="javascript:void(0);" alt=""><img width="48" height="48" src= "" data-lazy-src="https://p.liiiu.cn/i/2025/05/25/6832cc105bc41.webp" alt="" onerror="this.src=/img/error-page.png; this.onerror = null;"/></a><div class="blog-slider__content"><span class="blog-slider__code">2025-05-25</span><a class="blog-slider__title" onclick="pjax.loadUrl(&quot;posts/7915ee6b/&quot;);" href="javascript:void(0);" alt="">数据库可视化WEB工具对比</a><div class="blog-slider__text">最近迁移服务器，并且搞了一个1P专业版玩玩，感觉效果很不错，想找一个管理数据库的服务，其中看了phpmyadmin等一些知名项目，但是都不太符合我的要求，最后经过筛选，找到了比较合适的，分享给大家！</div><a class="blog-slider__button" onclick="pjax.loadUrl(&quot;posts/7915ee6b/&quot;);" href="javascript:void(0);" alt="">详情       </a></div></div><div class="blog-slider__item swiper-slide" style="width: 750px; opacity: 1; transform: translate3d(0px, 0px, 0px); transition-duration: 0ms;"><a class="blog-slider__img" onclick="pjax.loadUrl(&quot;posts/caee2d9f/&quot;);" href="javascript:void(0);" alt=""><img width="48" height="48" src= "" data-lazy-src="https://p.liiiu.cn/i/2025/04/18/68024a618942b.webp" alt="" onerror="this.src=/img/error-page.png; this.onerror = null;"/></a><div class="blog-slider__content"><span class="blog-slider__code">2025-04-18</span><a class="blog-slider__title" onclick="pjax.loadUrl(&quot;posts/caee2d9f/&quot;);" href="javascript:void(0);" alt="">美化你的RSS订阅地址</a><div class="blog-slider__text">近期天天忙着毕业设计，冷落了站点文章的更新，最近也终于算是快要搞完了，于是开始捣鼓一些好玩的东西，在浏览阮一峰大佬的周刊时，了解到了RSS也能美化，折腾了一下，没想到还真实现了，在此分享一下。</div><a class="blog-slider__button" onclick="pjax.loadUrl(&quot;posts/caee2d9f/&quot;);" href="javascript:void(0);" alt="">详情       </a></div></div></div><div class="blog-slider__pagination swiper-pagination-clickable swiper-pagination-bullets"></div></div></div>')}for(var elist="null".split(","),cpage=location.pathname,epage="/",flag=0,i=0;i<elist.length;i++)cpage.includes(elist[i])&&flag++;("all"===epage&&0==flag||epage===cpage)&&butterfly_swiper_injector_config()</script><script defer src="https://jsd.liiiu.cn/npm/swiper@11.1.14/swiper-bundle.min.js"></script><script defer data-pjax="" src="/config/swiper/swiper_init.js"></script><script src="https://jsd.liiiu.cn/npm/live2d-widget@^3.1.3/lib/L2Dwidget.min.js"></script><script>L2Dwidget.init({pluginModelPath:"assets/",model:{scale:1,hHeadPos:.5,vHeadPos:.618,jsonPath:"/live2dw/assets/tororo.model.json"},display:{superSample:2,width:250,height:500,position:"left",hOffset:-20,vOffset:-90},mobile:{show:!1,scale:.5},react:{opacityDefault:.7,opacityOnHover:.2},log:!1,pluginJsPath:"lib/",pluginRootPath:"live2dw/",tagMode:!1})</script></body></html>